每經(jīng)編輯 張錦河    

近日，內(nèi)蒙古包頭等多地出現(xiàn)AI換臉新騙局，單筆被騙金額高達(dá)400余萬，引發(fā)廣泛關(guān)注。

5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)文提醒，不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙。面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范!

據(jù)中新經(jīng)緯，目前制作一套“露臉且說話”視頻成本低至數(shù)十元，只需提供正面照就能生成視頻，不僅眼睛、嘴巴、頭會動，如果提供文字口型也能對上，一個晚上就能完工。有商家稱用照片生成一段1分鐘時長的視頻僅需30元左右。如果視頻時間短。質(zhì)量要求不高幾塊錢一段都可以。

圖片來源：視覺中國-VCG111424718601

中國互聯(lián)網(wǎng)協(xié)會：警惕！“AI換臉”新騙局

據(jù)中國互聯(lián)網(wǎng)協(xié)會5月24日消息，今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為了信息科技領(lǐng)域的熱點，引起公眾對AI技術(shù)的廣泛關(guān)注和熱情。但伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進(jìn)行詐騙、誹謗的違法行為屢見不鮮。

近期，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案件。不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙。

面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范!

01 做好個人信息安全第一責(zé)任人

1、加強(qiáng)個人信息保護(hù)意識，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機(jī)內(nèi)。

提示：發(fā)現(xiàn)APP過度、強(qiáng)制收集個人信息，請至12321.cn投訴。

2、陌生鏈接不要點,陌生軟件不要下載,陌生好友不要隨意添加,不明二維碼不要隨意掃描。管理好自己的朋友圈，也不要輕易向陌生人開啟手機(jī)屏幕共享。

3、做好個人防護(hù)，安裝安全軟件，防止手機(jī)和電腦中病毒。對個人賬戶的安全狀況保持警惕，尤其是陌生設(shè)備的登陸情況，防止微信、QQ等被盜號給親朋好友帶來麻煩。

4、對于不常用的APP，建議卸載前注銷個人帳號。

△提示：APP不提供個人帳號注銷方式，或為注銷帳號設(shè)置各類障礙的，請至12321.cn投訴。

02 遠(yuǎn)程轉(zhuǎn)賬務(wù)必需要多重驗證，把好“錢袋子”

如果有人自稱“家人”“朋友”“老師”“領(lǐng)導(dǎo)”通過社交軟件、短信、電子郵件等以“手機(jī)掉水里了，學(xué)校需要緊急交輔導(dǎo)班學(xué)費(fèi)”“人在境外旅游，需要幫忙買機(jī)票”“給領(lǐng)導(dǎo)辦私事，需緊急轉(zhuǎn)賬”“遭遇車禍，需要馬上手術(shù)”“情況特殊，需要過橋資金拆借”等各種方式和理由誘導(dǎo)你轉(zhuǎn)賬匯款，務(wù)必第一時間提高警惕！

在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來這樣的典型場景，要通過回?fù)軐Ψ绞謾C(jī)號等額外通信方式核實確認(rèn)，不要僅憑單一溝通渠道未經(jīng)核實就直接轉(zhuǎn)賬匯款！無論對方是誰！

△提示：遭遇詐騙信息，請至12321.cn反詐專欄舉報，如發(fā)生資金損失請及時報警。

一直以來，中國互聯(lián)網(wǎng)協(xié)會不斷推進(jìn)行業(yè)自律，積極開展防范治理電信網(wǎng)絡(luò)詐騙工作。2023年6月14-16日，中國互聯(lián)網(wǎng)協(xié)會將組織舉辦“2023年電信網(wǎng)絡(luò)詐騙治理工作培訓(xùn)”，解讀電信網(wǎng)絡(luò)詐騙治理法律法規(guī)，分析研判電信網(wǎng)絡(luò)詐騙治理的重點工作和發(fā)展形勢，助力企業(yè)落實防范治理電信網(wǎng)絡(luò)詐騙責(zé)任，提高管理能力，促進(jìn)行業(yè)健康發(fā)展。

四川綿陽：騙子利用AI換臉和擬聲技術(shù)佯裝領(lǐng)導(dǎo)，一市民被騙40余萬

5月23日，四川綿陽市反電信網(wǎng)絡(luò)詐騙中心發(fā)布預(yù)警稱，近日，多地連續(xù)發(fā)生多例AI詐騙案例。

典型案例:市民王先生突然接到主管單位領(lǐng)導(dǎo)視頻電話，稱其朋友想借王先生公司賬戶過賬40余萬，還說該款項隨后就轉(zhuǎn)到王先生公司對公賬號，基于對領(lǐng)導(dǎo)的信任，加上已經(jīng)視頻聊天核實了身份，王先生立即就把40余萬轉(zhuǎn)至指定賬戶上，隨后發(fā)現(xiàn)上當(dāng)受騙。這是騙子利用智能AI換臉和擬聲技術(shù)，佯裝領(lǐng)導(dǎo)對他實施了詐騙。

警方提示

1、視頻電話眼見、耳聽未必屬實，務(wù)請多方核實相關(guān)信息。

2、保護(hù)好隱私信息，不輕易提供人臉指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。

3、未經(jīng)核實請勿大額轉(zhuǎn)賬匯款。

內(nèi)蒙古包頭：科技公司老板10分鐘被騙走430萬元

據(jù)平安包頭官方微信號5月20日消息，5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件。

4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生?；谝曨l聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術(shù)，佯裝成好友對他實施了詐騙。

“從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去，而且當(dāng)時是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備”，郭先生說。

4月20日12時21分，包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊的外協(xié)請求，稱福建省一知名民營企業(yè)負(fù)責(zé)人被騙走430萬元，而涉案的銀行卡為包頭市蒙商銀行對公賬戶，希望包頭警方能夠幫忙進(jìn)行緊急止付。

包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動“包頭市警銀聯(lián)動綠色查詢機(jī)制”，當(dāng)班民警以最快速度完成核查、報審程序，第一時間將涉案卡的信息通報至蒙商銀行相關(guān)部門。在銀行的全力協(xié)助下，僅用時10分鐘，就將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。

同時，向福州市公安局警方提供了剩余款項93.16萬元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。目前，福建警方與包頭警方對此資金正在全力追繳當(dāng)中。

每日經(jīng)濟(jì)新聞綜合自中國互聯(lián)網(wǎng)協(xié)會、平安包頭官方微信號、中新經(jīng)緯

封面圖片來源：視覺中國-VCG111421680440