每經(jīng)編輯 王月龍    

“AI換臉”相信大家都不陌生。只需要一張照片，通過(guò)人工智能深度合成技術(shù)，任何人都能成為視頻中的主人公，甚至連表情和動(dòng)作都能以假亂真。

然而，這項(xiàng)新技術(shù)，卻讓一些人產(chǎn)生了不良想法，杭州的虞某就利用“AI換臉”軟件生成大量淫穢視頻進(jìn)行傳播，被換臉的有不少女明星等公眾人物，虞某甚至還提供換臉定制服務(wù)。

“只要能看到的臉都能換”

還有人用暗戀女生換臉

據(jù)央視新聞，2022年8月，杭州市蕭山警方在網(wǎng)上巡查中獲取一條線(xiàn)索，轄區(qū)內(nèi)有人利用AI技術(shù)制作淫穢視頻在網(wǎng)上進(jìn)行大量傳播，警方依法對(duì)此立案?jìng)刹?，并迅速抓獲了犯罪嫌疑人虞某，隨后該案被移送至杭州市蕭山區(qū)人民檢察院審查起訴。

檢察機(jī)關(guān)調(diào)查發(fā)現(xiàn)，虞某從2020年開(kāi)始接觸“AI換臉”軟件，起初，他想通過(guò)在網(wǎng)上推廣該項(xiàng)技術(shù)以及相關(guān)的軟件來(lái)獲利，但是，一段時(shí)間過(guò)后關(guān)注他的人卻很少，一次偶然的機(jī)會(huì)，虞某看到有人在社交群組中發(fā)布淫穢信息來(lái)吸引他人關(guān)注，于是他也動(dòng)起了類(lèi)似念頭。

據(jù)虞某供述，為了吸引更多的關(guān)注和流量，他在社交軟件上創(chuàng)建了“瀏覽群”和“私人定制群”，“瀏覽群”主要用來(lái)傳播“AI換臉”的淫穢視頻吸引、招攬觀看者，其中包括一些經(jīng)過(guò)虞某換臉的視頻，當(dāng)有人提出“定制換臉”的需求，虞某會(huì)將這些人引入所謂“私人定制群”。

據(jù)檢察機(jī)關(guān)調(diào)查，虞某一邊通過(guò)傳播換臉的淫穢視頻來(lái)“吸粉引流”，同時(shí)又通過(guò)出售“AI換臉”軟件和提供所謂“AI換臉”的私人定制服務(wù)，在不到半年的時(shí)間里就獲利數(shù)萬(wàn)元。而被“AI換臉”侵害人臉敏感信息的受害者，不僅包括多位知名公眾人物，還有很多不特定的普通人。

據(jù)檢察機(jī)關(guān)調(diào)查，虞某根據(jù)“AI換臉”視頻的長(zhǎng)度、清晰度等難易條件，按照5分鐘300元、10分鐘500元等標(biāo)準(zhǔn)來(lái)收取定制的費(fèi)用。虞某聲稱(chēng)，“只要能看到臉的都能換”。

據(jù)檢察機(jī)關(guān)了解，虞某的客戶(hù)要求“定制”換臉的對(duì)象不僅包括一些知名的公眾人物，也有生活中的普通人，其中就有人提出想要定制自己暗戀女生的換臉視頻，而對(duì)于這些未經(jīng)同意就擅自侵犯他人敏感信息的違法行為，虞某也是來(lái)者不拒。

2023年7月28日，該案在杭州互聯(lián)網(wǎng)法院一審公開(kāi)審理。2023年11月，杭州市蕭山區(qū)人民法院判決被告人虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個(gè)月，并處罰金6萬(wàn)元。

有人專(zhuān)門(mén)做AI換臉培訓(xùn)、教程

技術(shù)人員建議：隱私不要隨便發(fā)

據(jù)中新網(wǎng)，還有人做起了專(zhuān)門(mén)的代理、培訓(xùn)生意。一位提供AI數(shù)字人代理服務(wù)的業(yè)內(nèi)人士表示，購(gòu)買(mǎi)AI數(shù)字人視頻制作教程會(huì)附送3個(gè)人物素材，“可以克隆任何人。”當(dāng)被問(wèn)及是否會(huì)涉及肖像權(quán)爭(zhēng)議時(shí)，他表示，“不會(huì)，我們做的是俄羅斯的人，在外網(wǎng)去找的素材沒(méi)問(wèn)題的”。

類(lèi)似教程在電商平臺(tái)上也很常見(jiàn)。在電商交易平臺(tái)上輸入“AI美女”，即可看到“新手日入2000+”“5分鐘制作視頻”“趕快做個(gè)賬號(hào)吧”等極具誘導(dǎo)性的宣傳語(yǔ)，多以網(wǎng)盤(pán)的形式發(fā)貨，標(biāo)價(jià)在幾元至幾十元間。

據(jù)江蘇新聞，在手機(jī)應(yīng)用商店中，有數(shù)十款軟件可以實(shí)現(xiàn)“AI換臉換聲”的效果，且基本都在用戶(hù)協(xié)議中標(biāo)明“僅供娛樂(lè)使用”。這類(lèi)軟件的換臉效果并不逼真，相似度只能達(dá)到5到6分。比如某款軟件，拍下記者面部照片后，就能生成出一段記者變身“特種戰(zhàn)士”的視頻。

制作、發(fā)布此類(lèi)視頻是否存在法律風(fēng)險(xiǎn)呢？法律專(zhuān)家表示，用AI技術(shù)為他人換臉換聲甚至翻譯成其他語(yǔ)言并發(fā)布視頻，可能涉嫌害當(dāng)事人的著作權(quán)、肖像權(quán)和聲音權(quán)。

另外，技術(shù)人員建議大家盡量不要把個(gè)人的隱私數(shù)據(jù)隨意發(fā)到公共互聯(lián)網(wǎng)上，如果有一些不法分子想要對(duì)你的家人實(shí)施詐騙，采集到數(shù)據(jù)以后還是比較容易實(shí)現(xiàn)的。

編輯|王月龍 蓋源源

校對(duì)|盧祥勇

每日經(jīng)濟(jì)新聞綜合自央視新聞、江蘇新聞、中新網(wǎng)