隨著人工智能（AI）的發(fā)展迭代，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局、新套路也在刷新人們對風(fēng)險防范的認(rèn)知。這背后不僅關(guān)乎廣大消費者的財產(chǎn)安全，還潛藏著人身安全的風(fēng)險和隱患。

近日，外媒曝光了一種全新的數(shù)字詐騙，詐騙犯利用復(fù)雜的AI工具制作特斯拉CEO馬斯克等名人的視頻，并利用這些“AI名人”對各種虛假的產(chǎn)品或“投資”進行背書，并承諾高額投資回報。

在其中一個典型案例中，“AI馬斯克”背書的一家所謂的外匯公司輕松騙走了一名82歲的退休老人超過69萬美元（約495萬元人民幣）的畢生積蓄。

在這類騙局中，詐騙犯通常先尋找一個真實的采訪馬斯克的視頻，再使用AI工具將他的聲音替換，并利用口型同步技術(shù)編輯馬斯克的口型，讓視頻看起來更加真實。對于普通人來說，這種以假亂真的視頻可能是非常難以辨別的。

除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等也是常出現(xiàn)在這類詐騙視頻中的名人。

“AI馬斯克”泛濫，生成僅需幾分鐘，卻有人被騙近500萬元

最近幾個月來，成千上萬個由AI驅(qū)動的視頻在互聯(lián)網(wǎng)上泛濫，這類視頻被稱為“深度偽造（deepfakes）”。根據(jù)德勤的估計，AI驅(qū)動的“深度偽造”視頻/廣告預(yù)計每年將造成數(shù)十億美元的欺詐損失。

然而，這些視頻的制作成本只有幾美元，幾乎可以忽略不計，而且可以在幾分鐘內(nèi)完成。這類視頻由于名人效應(yīng)在社交媒體上被廣泛推廣，包括Facebook上的付費廣告，擴大了它們的影響范圍。

騙子們會從一段真實的視頻開始，比如下面這段來自《華爾街日報》的采訪馬斯克視頻，提問者是該報一名編輯Thorold Barker，他的聲音也出現(xiàn)在視頻片段中。

圖片來源：《華爾街日報》

在“深度偽造”視頻中，馬斯克的嘴部動作用唇部同步技術(shù)進行了編輯，這種技術(shù)可以調(diào)整一個人的說話方式。騙子還會用語音克隆工具添加AI聲音，這種工具可以從樣本中復(fù)制任何他們想要的聲音。因此，最終的視頻對于普通的互聯(lián)網(wǎng)用戶來說，可能相當(dāng)有說服力。

已有人因此上當(dāng)受騙，82歲的退休老人Steve Beauchamp便是典型案例。據(jù)外媒報道，去年年底，82歲的退休老人Beauchamp觀看了一段視頻廣告。視頻中馬斯克支持一個承諾快速回報的激進投資機會，口型與聲音都高度吻合，還融入了馬斯克標(biāo)志性的南非口音，看起來極為真實。于是，Beauchamp聯(lián)系了該廣告背后一家名為Magna-FX的外匯公司，開設(shè)了一個248美元的賬戶。經(jīng)過數(shù)周的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69多萬美元（約合495萬元），而這些錢都被卷走了。

另據(jù)非營利性消費者權(quán)益組織美國商業(yè)促進局的一份報告，一名得克薩斯州人表示，他在看到馬斯克于2023年2月在所謂的YouTube“直播”視頻中發(fā)言后，損失了價值3.6萬美元的比特幣。其稱，“我把比特幣發(fā)送了出去，卻再也沒有收到任何東西。”

負(fù)責(zé)監(jiān)控和檢測“深度偽造”的公司Sensity分析了2000多個深度偽造視頻后發(fā)現(xiàn)，到目前為止，馬斯克是這類視頻中最常見的“AI形象”。具體來說，自去年年底以來，“AI馬斯克”出現(xiàn)在近1/4的“深度偽造”騙局中。而在加密貨幣相關(guān)的“深度偽造”視頻中，他出現(xiàn)的頻率甚至高達90%。

對此，研究加密貨幣社區(qū)的專家表示，馬斯克在全球擁有獨特的粉絲群，其中包括保守派、反建制派和加密貨幣愛好者，這類群體往往會被另類的發(fā)財途徑所吸引，這也使他們成為數(shù)字詐騙犯的完美目標(biāo)。而且這類群體中，年紀(jì)較大的互聯(lián)網(wǎng)用戶往往更容易成為詐騙犯的目標(biāo)，這類群體對加密貨幣、AI和馬斯克都非常熟悉，但他們的警惕性往往不足。

除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等也是常出現(xiàn)在這類詐騙視頻中的名人。

AI技術(shù)成詐騙工具，F(xiàn)acebook和Youtube是重災(zāi)區(qū)

外媒報道中稱，目前來看，很難量化到底有多少“深度偽造”視頻在網(wǎng)上流傳，但在Facebook的廣告庫中搜索這些騙局的常用關(guān)鍵詞，能搜索到數(shù)十萬個廣告，其中許多都包含“深度偽造”視頻。

盡管Facebook已經(jīng)刪除了許多違反其政策的視頻，并關(guān)閉了一些賬戶，但其他視頻仍在網(wǎng)上流傳，而且似乎每天都有更多的視頻出現(xiàn)。不僅是Facebook，YouTube上也充斥著這些造假視頻，而且通常使用“直播（live）”標(biāo)簽。但事實上，這些視頻是預(yù)先錄制的”深度偽造”視頻。

YouTube在一份聲明中說，僅今年一季度，就刪除了超過1570萬個頻道和超過820萬個視頻，這些內(nèi)容大多因違反其反垃圾郵件政策而被刪除。

這類“深度偽造”廣告的盛行還導(dǎo)致澳大利亞億萬富翁Andrew Forrest提起民事訴訟，控告Facebook的母公司Meta在廣告業(yè)務(wù)運營方面存在疏忽。他認(rèn)為，F(xiàn)acebook的廣告業(yè)務(wù)誘使“無辜用戶進行了錯誤的投資”。Meta則表示，其正在培訓(xùn)自動檢測系統(tǒng)，以捕捉其平臺上的欺詐行為，但同時也提到，資金雄厚的欺詐者會不斷變換策略以逃避檢測。YouTube則表示，其政策禁止欺詐和篡改視頻，并于今年3月要求創(chuàng)作者在使用AI創(chuàng)作真實內(nèi)容時必須披露。

事實上，數(shù)字詐騙并不新鮮，但自去年AI工具開源后，新一波“深度偽造”視頻井噴。

今年早些時候，美國聯(lián)邦貿(mào)易委員會（FTC）和FBI也發(fā)出警告稱，AI驅(qū)動的網(wǎng)絡(luò)犯罪和深度欺詐正在上升。FBI表示，“犯罪分子正在利用AI讓網(wǎng)絡(luò)攻擊和其他犯罪活動更有效，更難以被發(fā)現(xiàn)”。

“深度偽造”視頻并不完美，甚至在一些視頻中，“AI馬斯克”的嘴型都對不上，但有專家表示，對于一些詐騙犯的目標(biāo)群體來說，他們制作的視頻似乎足夠有說服力，而且一直在改進。

此外，一些騙局還經(jīng)常宣傳虛假的人工智能軟件，稱它們可以產(chǎn)生可觀的投資回報。詐騙犯以此誘使目標(biāo)受眾一開始只投一小筆錢（大約250美元）。隨后，騙子不斷宣稱投資會升值，人們往往慢慢被引誘投入更多資金。

被騙了畢生積蓄的Beauchamp在提交給美國商業(yè)改進局（Better Business Bureau）的報告中表示：“此刻，我愿接受所有指責(zé)與嘲諷，作為對自己輕信的懲罰。”

他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養(yǎng)老金來維持生計，而他原本計劃使用這些積蓄環(huán)游世界。Beauchamp已經(jīng)向當(dāng)?shù)鼐綀蟀?，但案件進展緩慢。“由于到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望。”