最近有一項(xiàng)新的科技技術(shù)，用戶只需上傳一張正面照，就可以一鍵操作，把一些影視劇片段中演員的臉換成自己的，甚至還可以通過(guò)社交媒體上傳至網(wǎng)絡(luò)上。

這種“深度偽造”不僅可以換臉，還可偽造聲音。而目前一些科技公司在面對(duì)深度偽造的視頻時(shí)，也顯得力不從心。

這不禁讓人們擔(dān)憂，在深受網(wǎng)絡(luò)社交媒體追捧的“超級(jí)”新技術(shù)背后，可能有哪些安全隱患？

語(yǔ)音合成“術(shù)”可以模擬任何人語(yǔ)音

彭博社記者萬(wàn)斯使用電腦合成語(yǔ)音給他母親打了個(gè)電話，看看他母親能否發(fā)現(xiàn)？

彭博社記者萬(wàn)斯：現(xiàn)在為了實(shí)驗(yàn)一下，我的電腦合成音，我要給我親愛(ài)的媽媽打個(gè)電話，看看她是否能聽(tīng)出來(lái)。

萬(wàn)斯（合成音）：嗨，媽媽，你們今天什么安排？

萬(wàn)斯的母親：今天一早家里沒(méi)電了，我們正在房子里溜達(dá)。

萬(wàn)斯（合成音）：我剛剛下班，等著接兒子回家。

萬(wàn)斯的母親：好的。

萬(wàn)斯（合成音）：我覺(jué)得我可能感染了病毒。

萬(wàn)斯的母親：那你感覺(jué)不舒服，是嗎？

萬(wàn)斯：哈哈。我剛才是和你搗亂，你剛才在和電腦說(shuō)話。

萬(wàn)斯的母親：我感覺(jué)在和你說(shuō)話，真是奇妙。

萬(wàn)斯：你覺(jué)得嚇人還是覺(jué)得不錯(cuò)。

萬(wàn)斯的母親：如果涉及到非常重要的事情，真的挺嚇人的。

合成視頻以假亂真

深度偽造，是一種可以實(shí)時(shí)偽造面部表情，并將其渲染成2D合成視頻的人工智能技術(shù)。“DeepFake”深度偽造，也逐漸成為這一技術(shù)的代稱。

李浩是美國(guó)南加州大學(xué)的助理教授，“針幕動(dòng)畫”公司的聯(lián)合創(chuàng)始人，這家公司推出的軟件可以讓用戶在玩虛擬現(xiàn)實(shí)游戲和購(gòu)物時(shí)，即時(shí)定制自己的三維虛擬化身。

“針幕動(dòng)畫”聯(lián)合創(chuàng)始人李浩：現(xiàn)在我制作了一個(gè)你的化身。

美國(guó)公共廣播公司記者奧布萊恩：一個(gè)和藹整潔的奧布萊恩。

但隨著技術(shù)的發(fā)展，這樣的合成圖像或視頻，真實(shí)度越來(lái)越強(qiáng)，欺騙性也越來(lái)越強(qiáng)。對(duì)此，研發(fā)者也不無(wú)擔(dān)憂。

2018年1月，一個(gè)名為FakeApp的軟件上線，宣稱可以實(shí)現(xiàn)“一鍵換臉”。

雖然有的社交新聞?wù)军c(diǎn)比如Reddit網(wǎng)站，已明令禁止在自己的平臺(tái)傳播換臉視頻和圖片，但仍有超過(guò)9萬(wàn)名用戶在Reddit上傳播這類視頻。

計(jì)算機(jī)科學(xué)專家法里德：我擔(dān)心這項(xiàng)技術(shù)被武器化，還擔(dān)心它如何影響我們整個(gè)社會(huì)。

“深度偽造”技術(shù)引發(fā)巨大爭(zhēng)議 新技術(shù)推廣應(yīng)用應(yīng)做好監(jiān)管

一些科技公司在面對(duì)“深度偽造”的視頻時(shí)，也顯得力不從心。Instagram總裁莫里斯也在接受采訪時(shí)表示，目前業(yè)界還沒(méi)有大規(guī)模的數(shù)據(jù)或標(biāo)準(zhǔn)對(duì)這些假視頻進(jìn)行檢測(cè)。

Instagram總裁莫斯里：目前，我們還沒(méi)有應(yīng)對(duì)深度偽造的政策，我們正試著評(píng)估，是否愿意這么做。如果要做，又該如何定義深度偽造，我覺(jué)得此類事件并不好。

主持人蓋爾·金：你可以把視頻下架。

莫斯里：實(shí)際上，我想的不僅是把它撤下來(lái)，我認(rèn)為問(wèn)題在于，我們?nèi)绾我杂性瓌t的方式，做到這一點(diǎn)。

如今，諸如指紋支付、人臉識(shí)別解鎖、聲音解鎖等，這些生物特征識(shí)別技術(shù)已經(jīng)滲透到我們?nèi)粘Ｉ町?dāng)中。然而，當(dāng)這些都能被“仿造”時(shí)，小到個(gè)人財(cái)產(chǎn)，大到國(guó)家安全，面臨的風(fēng)險(xiǎn)和隱患就越來(lái)越多。

技術(shù)是把雙刃劍，用對(duì)了地方會(huì)造福人類，用錯(cuò)了地方，遺禍無(wú)窮。當(dāng)新技術(shù)的能力越來(lái)越大的時(shí)候，每一項(xiàng)“超級(jí)”新技術(shù)的推廣應(yīng)用都應(yīng)當(dāng)慎之又慎，該有的監(jiān)管也要跟上。