前不久，一名網路博主在地鐵拍的日常生活照，遭不懷好意之人使用AI技術『一鍵脫衣』，再次引起社會對『AI換臉』等深度合成技術的關注和擔憂。
早在2019年，一款名為『ZAO』的AI換臉軟件曾風靡網路，只要提供一張照片就能成為影視劇的男女主角，讓眾多網友趨之若鶩。
然而，因侵犯版權、侵害隱私、危害數據安全等問題，『ZAO』很快被下架處理。
然而，隨著技術發展和使用門檻降低，『AI換臉』的應用場景越來越多，背後的黑灰產業鏈也逐漸浮出水面。
記者調查發現，目前在網路平臺上，售賣明星換臉的淫穢視頻、提供視頻定制換臉服務、教授換臉技術等已經成為一門生意。
技術本無善惡，但技術應用需要規制。
4月11日，國家網信辦發佈的《生成式人工智能服務管理辦法《征求意見稿》》，在產品安全評估、數據合法性等方面作出具體規定。
業內人士認為，這一規定實施後，將對包括『AI換臉』在內的生成式人工智能技術發展起到很好的規范和指導作用。
『AI換臉』的法律邊界何在？『AI換臉』服務的提供者和使用者存在哪些法律風險？如何規制和防范『AI換臉』對個人和社會造成的嚴重後果？
明星換臉視頻打包出售，定制隻需兩三小時
近年來，『AI換臉』等深度合成技術快速發展，在服務用戶需求、改進用戶體驗的同時，也被一些不法人員利用，生成惡搞視頻、色情視頻在網上傳播、出售。
記者注意到，在有關部門和網路平臺不斷加強監管的背景下，一些『換臉軟件』和『定制換臉服務』轉向更隱秘的角落，形成地下黑灰產業鏈。
換臉應用『FacePlay”采取會員制的方式，為用戶提供視頻和照片換臉服務《應用頁面截圖》
記者在百度搜索關鍵詞『AI換臉』，查詢到一些標註為『廣告』的網站，仍在出售『明星換臉視頻』。
根據網頁留下的QQ號，記者聯系到一個名為『深藍』的賣家，其隨後發來『百位明星合成視頻合集』的列表截圖，文件名上標註出多位大眾熟知的女明星。
『100部，打包價108元』深藍表示，視頻文件將通過QQ文件發送，支持微信、支付寶、QQ紅包等支付方式。
為了證明視頻的質量，深藍隨後發來幾張動圖，內容是幾位女明星被換臉後的淫穢視頻截圖。
另一個賣家則向記者發送了網盤鏈接。
對方稱，視頻時長有幾分鐘到十幾分鐘不等，可以保證視頻質量。
『如果你有特別喜歡的明星，我們可以為你提供定制服務，收費比較貴』對方表示，一段時長約5分鐘的定制視頻要價188元，『兩三個小時就能給你』。
上述兩位賣家都聲稱，出售的明星換臉視頻是團隊自己制作的，深藍更是誇口稱『獨家發售，絕無僅有，質量有保證』。
兩名賣家提供的明星換臉合成視頻流暢度極高，幾乎達到了真假難辨的程度。
實際上，演藝明星、社會名人更容易成為『AI換臉視頻』的受害者。
近期，一名男性特效師將自己的臉替換到影視片段中，生成跟女星迪麗熱巴親吻視頻，引發粉絲抗議。
因不堪其擾，一些明星選擇維權。
2021年8月，劉昊然工作室發佈聲明稱，有人利用『AI換臉』技術傳播對劉昊然帶有侮辱性的視頻、截圖，同時含有誹謗言論的聊天記錄。
該工作室表示已向警方報案。
2021年9月，林俊傑因個人肖像被短視頻博主用『AI換臉』技術制作了大量的鬼畜視頻，起訴了平臺及該博主，要求其賠禮道歉並索賠27．5萬元。
相關應用仍可下載，賣家教授『AI換臉』技術
不僅有出售明星換臉成品視頻的賣家，各類提供『AI換臉』服務的App和小程序，仍在網路中存在。
更甚者，一些賣家要提供換臉技術教學服務，進一步降低這類技術的應用門檻，易造成對他人權益和社會公共安全的危害。
在手機應用商城，記者搜索『AI換臉』等關鍵詞，就有不少相關App推薦，如『AI換臉』『FacePlay』等。
在某社交平臺上搜索『換臉』，也能看到不少『AI換臉』的小程序，如『AI換臉變裝』等。
記者下載了熱度最高的『FacePlay』App。
該App有多款換臉模板可供選擇，包括AI繪畫、影視劇、氣質美女、男士專屬等，一鍵上傳照片便可生成換臉視頻。
要想在這些App和小程序上使用『AI換臉』功能，有些需要付費，以『FacePlay』為例，周會員17元、年會員398元。
也有免費適用的App，一般用戶每日可享受一次免費『AI換臉』的機會，用完免費次數後可通過瀏覽視頻廣告獲取權限。
而在電商平臺，『AI換臉』『換臉』等關鍵詞已被屏蔽，但通過『明星視頻』『定制視頻』等更隱蔽的關鍵詞，仍能找到出售換臉軟件、定制明星換臉視頻及教授換臉技術的賣家。
記者搜索某電商平臺發現，一名賣家通過視頻教授『AI換臉』技術，還提供代碼腳本網頁，收費只要39.9元。
記者聯系了其中一名賣家，對方不僅售賣明星換臉視頻和定制換臉服務，還提供教學服務，『只要39.8元，包學會』。
完成付款後，記者收到賣家記者發來的一條網盤鏈接，裡面是一段教學視頻。
『視頻被封了，隻能壓縮上傳，先保存到網盤後再下載』該賣家告訴記者，根據視頻的步驟，就能學會AI換臉操作。
隨後，賣家又給記者發了一組賬號和密碼，還有一個網頁鏈接。
『這是我們的代碼腳本網頁版，比那些換臉軟件的功能更加強大』賣家提供的教學內容顯示，用戶根據指引，完成登錄、提取臉部數據、訓練模型、換臉輸出視頻等步驟，就能實現『AI換臉』視頻的制作。
記者跟教授換臉技術賣家的聊天記錄截圖
記者注意到，這個店鋪的月銷量超過50，但沒有評論。
賣家在私信中強調，不要公開發表評論，『有問題直接聯系我就好了』。
相對現成的 『AI換臉』軟件多適用於拍照場景、影視劇片段的替換合成，上述賣家教授的換臉技術更能為所欲為：用於換臉的照片不受限制，可合成的視頻片段也不局限於影視作品，包括新聞、私人影片等都可被『AI換臉』。
濫用『AI換臉』存法律風險
『00後』小陳告訴記者，出於獵奇和娛樂心態，自己以前也喜歡看視頻網站的『AI換臉』視頻，『把唱跳偶像的臉換在古裝人物身上，很新奇』但之前有朋友用她的照片生成惡搞視頻，讓她感到『很不舒服』，引發她對『AI換臉』的警惕。
越來越多人意識到，『AI換臉』是一把雙刃劍，亟須法律對技術進行更系統的規制與引導。
『深度合成技術在給大眾提供娛樂的同時，也因為濫用和缺少監管，造成了信息安全隱患和傳播侵權的亂象，甚至成為刑事犯罪的‘幫兇’』一名長期從事打擊電信網路詐騙的民警對記者表示，已經有不法分子將『AI換臉』用於制作虛假視頻，從事電信網路詐騙等違法犯罪活動。
近年來，『AI換臉技術』頻頻被一些犯罪分子盯上，隨之而來的犯罪手段也是花樣百出、層出不窮。
除了演藝明星外，部分不法分子還將『AI換臉技術』使用在普通人身上，由此制造一些所謂的遭泄露『私密照片』，對當事人實施敲詐勒索。
實際上，即便隻是用『AI換臉技術』制作娛樂性的惡搞照片，也有可能涉及侵犯肖像權、名譽權，造成嚴重後果的，還可能構成侮辱罪或者誹謗罪。
按照民法典規定，任何組織或者個人不得以醜化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。
這就意味著，無論個人還是平臺、軟件開發商，未經肖像權人同意，通過技術手段提取肖像，並擅自使用或上傳至換臉應用中供用戶選擇使用的行為都侵害了他人肖像權。
去年年底，杭州互聯網法院審理了一起因『AI換臉』App利用深度合成算法侵害他人肖像權的案件，判定App開發者構成對原告肖像權的侵害。
在這起案件中，原告樓某某是一名古風漢服模特，經常在社交平臺發佈古風漢服照片和視頻。
樓某某發現被告公司運營的『AI換臉』App中使用的是其拍攝的古風造型視頻模板。
用戶可通過上傳個人照片，將視頻模板中的人臉替換成用戶上傳的人臉，除五官發生實質性變化之外，其餘內容都與原視頻保持一致。
軟件生成換臉後的古風造型視頻，用戶可以將其保存並分享到其他平臺。
法院審理認為，被告公司未經樓某某同意，利用深度合成技術使用其肖像制作了偽造視頻，依法應認定為構成對樓某某肖像權的侵害。
法院判決被告向樓某某賠禮道歉並賠償損失5000元。
民法典還規定民事主體享有名譽權。
例如前文提到的各類換臉視頻的網路賣家，將他人的臉換到不雅視頻中，或者利用換臉軟件對他人進行惡意醜化，就涉嫌侵犯他人的名譽權。
另外，這些賣家出售深度合成的明星換臉色情視頻，還涉嫌制作、傳播淫穢物品，可能構成刑事犯罪。
法律界人士指出，若有視頻創造者發現自己的視頻被『AI換臉』App運營商盜用，視頻所有人可以通過提起民事訴訟方式要求運營商承擔停止侵權、賠禮道歉並賠償損失等民事責任；如公民發現自己的視頻被人用於違法犯罪，可向公安機關報案追究相關人的法律責任。
技術規制需多管齊下
『技術發展是不可阻擋的趨勢，技術應用也往往超前於風險應對手段的產生』北京市盈科《海淀區》律師事務所網路犯罪辯護與刑事合規部主任劉洋認為，深度合成技術對影視、娛樂、教育、科研、醫療等領域的發展有相當促進作用，讓『AI換臉』等應用屢陷爭議的原因，既有開發者的利益需求，也有技術規制的天然滯後性。
技術對人類生活、工作影響深遠，但『技術中立』並不能成為規避責任和義務的理由。
今年1月，國家互聯網信息辦公室、工業和信息化部、公安部聯合發佈的《互聯網信息服務深度合成管理規定》正式實施，為深度合成服務劃定了『底線』和『紅線』，強調不得利用深度合成服務從事法律、行政法規禁止的活動，要求深度合成服務提供者落實信息安全主體責任。
隨著技術迭代不斷加速，與之對應的，對人工智能技術的法律規制和政策引導也在不斷完善。
4月11日，國家網信辦發佈了《生成式人工智能服務管理辦法《征求意見稿》》，共21條，對生成式人工智能產業給出較為詳盡的規定，其中包括定義、準入資格、責任義務和處罰措施等。
劉洋分析認為，《征求意見稿》在產品申報安全評估、數據來源合法性要求、對用戶輸入信息和記錄承擔保護義務等方面的規定，具有更強的現實意義。
『尤其在個人數據和信息的保護方面特別重視，要求提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務，不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息』
要遏制『AI換臉』等人工智能領域的深度合成技術應用亂象，還得政府監管部門、平臺、網民多方形成合力，多管齊下。
網民需要自律、守法。
『個人使用換臉工具，需要用在合理合法的用途和目的上，需要對法律常識和公序良俗有底線意識』劉洋說。
企業則需要在技術研究和應用中規范倫理要求，履行主體責任。
劉洋舉例說，網路平臺如果明知視頻違法違規而不采取措施，繼續對他人和社會造成損害，平臺也應承擔相應的連帶責任。
此外，針對技術研究與應用的法律規制和執行效能還需進一步完善。
『在制度設計層面，中國未形成統一的對人工智能技術的系統性立法，現有的法律規范在落地執行層面也存在挑戰』劉洋說，立法要及時關注技術發展過程中出現的新現象、新問題，監管部門則要重點關注和監測對可能造成惡劣社會影響、危害國家安全和社會公共利益的『AI換臉』視頻，嚴格監管，對各類違法侵權行為重拳出擊。
微信編輯：燈燈
本文來源：上觀新聞 鄔林樺
還原事實，洞悉真相。
歡迎關注，留言舉報！
除了辟謠，這裡還關注網路熱點，及時回應網友關切，追蹤事件進展。