“能看到臉的都能換”，有人換暗戀女生的臉……他AI換臉制作淫穢視頻，獲刑7年多！技術人員建議：隱私不要隨意發

每經編輯｜王月龍    

“AI換臉”相信大家都不陌生。只需要一張照片，通過人工智能深度合成技術，任何人都能成為視頻中的主人公，甚至連表情和動作都能以假亂真。

然而，這項新技術，卻讓一些人產生了不良想法，杭州的虞某就利用“AI換臉”軟件生成大量淫穢視頻進行傳播，被換臉的有不少女明星等公眾人物，虞某甚至還提供換臉定制服務。

“只要能看到的臉都能換”

還有人用暗戀女生換臉

據央視新聞，2022年8月，杭州市蕭山警方在網上巡查中獲取一條線索，轄區內有人利用AI技術制作淫穢視頻在網上進行大量傳播，警方依法對此立案偵查，并迅速抓獲了犯罪嫌疑人虞某，隨后該案被移送至杭州市蕭山區人民檢察院審查起訴。

檢察機關調查發現，虞某從2020年開始接觸“AI換臉”軟件，起初，他想通過在網上推廣該項技術以及相關的軟件來獲利，但是，一段時間過后關注他的人卻很少，一次偶然的機會，虞某看到有人在社交群組中發布淫穢信息來吸引他人關注，于是他也動起了類似念頭。

據虞某供述，為了吸引更多的關注和流量，他在社交軟件上創建了“瀏覽群”和“私人定制群”，“瀏覽群”主要用來傳播“AI換臉”的淫穢視頻吸引、招攬觀看者，其中包括一些經過虞某換臉的視頻，當有人提出“定制換臉”的需求，虞某會將這些人引入所謂“私人定制群”。

據檢察機關調查，虞某一邊通過傳播換臉的淫穢視頻來“吸粉引流”，同時又通過出售“AI換臉”軟件和提供所謂“AI換臉”的私人定制服務，在不到半年的時間里就獲利數萬元。而被“AI換臉”侵害人臉敏感信息的受害者，不僅包括多位知名公眾人物，還有很多不特定的普通人。

據檢察機關調查，虞某根據“AI換臉”視頻的長度、清晰度等難易條件，按照5分鐘300元、10分鐘500元等標準來收取定制的費用。虞某聲稱，“只要能看到臉的都能換”。

據檢察機關了解，虞某的客戶要求“定制”換臉的對象不僅包括一些知名的公眾人物，也有生活中的普通人，其中就有人提出想要定制自己暗戀女生的換臉視頻，而對于這些未經同意就擅自侵犯他人敏感信息的違法行為，虞某也是來者不拒。

2023年7月28日，該案在杭州互聯網法院一審公開審理。2023年11月，杭州市蕭山區人民法院判決被告人虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個月，并處罰金6萬元。

有人專門做AI換臉培訓、教程

技術人員建議：隱私不要隨便發

據中新網，還有人做起了專門的代理、培訓生意。一位提供AI數字人代理服務的業內人士表示，購買AI數字人視頻制作教程會附送3個人物素材，“可以克隆任何人。”當被問及是否會涉及肖像權爭議時，他表示，“不會，我們做的是俄羅斯的人，在外網去找的素材沒問題的”。

類似教程在電商平臺上也很常見。在電商交易平臺上輸入“AI美女”，即可看到“新手日入2000+”“5分鐘制作視頻”“趕快做個賬號吧”等極具誘導性的宣傳語，多以網盤的形式發貨，標價在幾元至幾十元間。

據江蘇新聞，在手機應用商店中，有數十款軟件可以實現“AI換臉換聲”的效果，且基本都在用戶協議中標明“僅供娛樂使用”。這類軟件的換臉效果并不逼真，相似度只能達到5到6分。比如某款軟件，拍下記者面部照片后，就能生成出一段記者變身“特種戰士”的視頻。

制作、發布此類視頻是否存在法律風險呢？法律專家表示，用AI技術為他人換臉換聲甚至翻譯成其他語言并發布視頻，可能涉嫌害當事人的著作權、肖像權和聲音權。

另外，技術人員建議大家盡量不要把個人的隱私數據隨意發到公共互聯網上，如果有一些不法分子想要對你的家人實施詐騙，采集到數據以后還是比較容易實現的。

編輯|王月龍 蓋源源

校對|盧祥勇

每日經濟新聞綜合自央視新聞、江蘇新聞、中新網