每經(jīng)記者 張虹蕾    每經(jīng)編輯 梁梟    

從迅速走紅社交網(wǎng)絡(luò)，用戶競相嘗鮮，到因隱私協(xié)議廣受外界爭議，再到最新被工信部約談，在不到一周的時(shí)間里，“ZAO”App的境遇可謂“冰火兩重天”。

伴隨著“ZAO”App站在新的“十字路口”，用戶們也逐漸從狂熱變得謹(jǐn)慎又忐忑……這不禁讓人心生疑問，看起來很美的AI換臉，其背后究竟有怎樣的風(fēng)險(xiǎn)？

從走紅到質(zhì)疑，“ZAO”App的風(fēng)險(xiǎn)在哪兒？

“眼看他起朱樓，眼看他宴賓客，眼看他樓塌了。”

作為“ZAO”App的嘗鮮者，新媒體從業(yè)者王麗麗（化名）告訴《每日經(jīng)濟(jì)新聞》記者，讓她意想不到的是，自己剛嘗到AI換臉帶來的樂趣，轉(zhuǎn)眼就面臨著個(gè)人隱私泄露的風(fēng)險(xiǎn)。

8月31日晚，王麗麗在朋友圈看到自己的多個(gè)好友都在展示“換臉”小視頻。在幾秒鐘的小視頻中，有人可以實(shí)現(xiàn)和偶像同框演戲的愿望、有人扮演明星角色進(jìn)行一場(chǎng)“cosplay”。興趣使然，王麗麗也加入了AI換臉的“陣營”。在手機(jī)驗(yàn)證注冊(cè)后，王麗麗在攝像頭前進(jìn)行眨眼、扭頭等動(dòng)作后，才可使用相關(guān)功能。通過App模板，王麗麗可根據(jù)自身的喜好換成影視劇中的經(jīng)典角色。除了把生成的小視頻發(fā)在朋友圈，還可以做成GIF動(dòng)態(tài)表情。

王麗麗是“ZAO”App眾多的AI換臉用戶之一。從8月30日上線開始，“ZAO” App就迅速走紅。不到24小時(shí)，這款A(yù)PP就在各應(yīng)用商店免費(fèi)應(yīng)用排行榜中躥升至前列，同期更入選微博熱搜話題。那幾天，AI換臉成了社交平臺(tái)上一道頻繁出現(xiàn)的風(fēng)景線。王麗麗也和朋友們沉浸在ZAO新奇的玩法中。

不過，隨著AI換臉走紅，質(zhì)疑之聲接踵而至。

根據(jù)“ZAO”App用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議：用戶上傳發(fā)布內(nèi)容后，意味著同意授予“ZAO”App及其關(guān)聯(lián)公司以及“ZAO”App用戶在“全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，“包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個(gè)人的人臉或者聲音等）以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利”。

這一協(xié)議很快引起了用戶的爭議和討論，包括王麗麗在內(nèi)的多數(shù)用戶認(rèn)為，這一協(xié)議存在泄漏個(gè)人信息的風(fēng)險(xiǎn)，情況嚴(yán)重還可能導(dǎo)致人臉識(shí)別支付等場(chǎng)景被盜用的風(fēng)險(xiǎn)。

北京大成（成都）律師事務(wù)所律師龐彥燕對(duì)《每日經(jīng)濟(jì)新聞》記者表示，這涉及用戶肖像權(quán)的法律侵權(quán)問題和隱私問題。在互聯(lián)網(wǎng)和AI技術(shù)迅速發(fā)展的當(dāng)下，用戶的肖像可能被用于制造假圖片、假視頻，甚至隨著科技的發(fā)展可直接用于人臉識(shí)別支付，存在一系列風(fēng)險(xiǎn)。

內(nèi)心產(chǎn)生擔(dān)憂的不只是王麗麗，不少先前充滿熱情嘗鮮的用戶，都開始擔(dān)憂自身的隱私泄露。甚至有用戶在APP下載界面對(duì)于相關(guān)協(xié)議作出“過分了”、“霸王條款”等評(píng)論。

致歉聲明后用戶仍擔(dān)憂

根據(jù)微博認(rèn)證信息，“ZAO”App的運(yùn)營主體為長沙深度融合網(wǎng)絡(luò)科技有限公司。工商資料顯示，長沙深度融合網(wǎng)絡(luò)科技有限公司法定代表人為雷小亮。此外，長沙深度融合網(wǎng)絡(luò)科技有限公司股東為海南喵咖網(wǎng)絡(luò)科技有限公司，后者法定代表人為也是雷小亮，股東為雷小亮與王力。

工商資料顯示，今年7月19日，長沙深度融合網(wǎng)絡(luò)科技有限公司發(fā)生股東變更，北京陌陌科技有限公司退出，新增海南喵咖網(wǎng)絡(luò)科技有限公司。由此可見，北京陌陌科技有限公司是“ZAO”App原股東。而雷小亮則是陌陌的聯(lián)合創(chuàng)始人和產(chǎn)品總監(jiān)。

隨著輿論的不斷發(fā)酵，今日（9月4日），工信部官網(wǎng)發(fā)布消息稱，3日，針對(duì)媒體公開報(bào)道和用戶曝光的“ZAO”App用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工信部網(wǎng)絡(luò)安全管理局對(duì)陌陌相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談，并要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，依法依規(guī)收集使用用戶個(gè)人信息，規(guī)范協(xié)議條款，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)。同時(shí)，要進(jìn)一步加強(qiáng)新技術(shù)新業(yè)務(wù)安全評(píng)估，切實(shí)采取有效措施，積極防范自有業(yè)務(wù)平臺(tái)被利用實(shí)施電信網(wǎng)絡(luò)詐騙等風(fēng)險(xiǎn)隱患。

而據(jù)36氪今日（9月4日）報(bào)道，針對(duì)工信部的約談，“ZAO”App運(yùn)營團(tuán)隊(duì)回應(yīng)稱：“ZAO上線以來，我們和各主管部門保持著積極順暢的溝通。非常感謝大家對(duì)于新技術(shù)新應(yīng)用的關(guān)注，我們也在第一時(shí)間回應(yīng)了大家的核心關(guān)切，將嚴(yán)格按照法律法規(guī)和各主管部門的要求，按照更加嚴(yán)格的標(biāo)準(zhǔn)，全面加強(qiáng)內(nèi)容管理、完善各項(xiàng)管理機(jī)制，確保用戶個(gè)人信息安全和數(shù)據(jù)安全。”

9月3日，“ZAO”App運(yùn)營團(tuán)隊(duì)通過微博發(fā)聲明并致歉稱，“ZAO”App不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息。“ZAO”App所呈現(xiàn)的“換臉”效果，是根據(jù)用戶提交的頭像照片，按照用戶選定的素材場(chǎng)景，通過后期技術(shù)疊加所實(shí)現(xiàn)的虛構(gòu)圖像，并沒有采集任何個(gè)人生物識(shí)別特征。使用“ZAO”App不會(huì)產(chǎn)生支付風(fēng)險(xiǎn)。用戶刪除信息或注銷賬號(hào)，“ZAO”App均會(huì)依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。

不過，這一說法尚未平息用戶心中的怒火。目前，在上述微博的聲明下，大量用戶依然在追問：注銷后個(gè)人信息和照片的數(shù)據(jù)安全泄露隱患如何消除？

AI換臉可能“曇花一現(xiàn)”？

事實(shí)上，關(guān)于互聯(lián)網(wǎng)用戶隱私安全問題，業(yè)界早有關(guān)注。

渤海證券研報(bào)指出，當(dāng)前全球在線文件暴露問題日益嚴(yán)重，外部存儲(chǔ)數(shù)據(jù)量的增加給原有的數(shù)據(jù)安全策略帶來了新的挑戰(zhàn)，預(yù)計(jì)未來3年會(huì)有更多企業(yè)和政府機(jī)構(gòu)在防止隱私泄露和保護(hù)個(gè)人數(shù)據(jù)上加大投入。

今年2月末，一個(gè)運(yùn)用AI換臉技術(shù)將94版《射雕英雄傳》電視劇中朱茵飾演的黃蓉，換“臉”成了楊冪的小視頻，一經(jīng)發(fā)布便在網(wǎng)絡(luò)上收獲巨大點(diǎn)擊量和引起熱議。4月，《民法典人格權(quán)編（草案）》二審稿提請(qǐng)十三屆全國人大常委會(huì)第十次會(huì)議審議。而此次草案二審稿針對(duì)技術(shù)“換臉”侵犯自然人肖像權(quán)的問題，專門增加規(guī)定：任何組織和個(gè)人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。而今年8月，在草案三審稿中，也進(jìn)一步升級(jí)了隱私權(quán)和個(gè)人信息保護(hù)。

艾媒咨詢創(chuàng)始人兼CEO張毅對(duì)《每日經(jīng)濟(jì)新聞》記者表示，AI換臉等產(chǎn)品可能在誕生初期迅速帶給用戶新鮮感，很容易達(dá)到“一夜走紅”的效果。但縱觀行業(yè)的發(fā)展和綜合因素，該運(yùn)用場(chǎng)景很可能是曇花一現(xiàn)。在平臺(tái)被媒體曝光存在隱私安全隱患的同時(shí)，大部分用戶也會(huì)考慮可能面臨的風(fēng)險(xiǎn)，嘗試欲望也會(huì)進(jìn)一步降低。

張毅表示，通過近幾天的抽樣調(diào)查發(fā)現(xiàn)，目前，使用“ZAO”App的用戶多為一些年輕女性，相對(duì)而言，年齡層偏成熟的人士對(duì)于軟件的使用度較低。因而，該APP的應(yīng)用場(chǎng)景更多是切入細(xì)分市場(chǎng)，很難普及。

張毅還分析道，AI換臉等技術(shù)雖已日漸成熟，但從宏觀層面看，仍然存在多方面風(fēng)險(xiǎn)，受到監(jiān)管和法律層面的制約。未來能夠占據(jù)市場(chǎng)主流的仍然是有政府授權(quán)、安全性高的企業(yè)，一些初創(chuàng)和小眾的平臺(tái)，如果不能達(dá)到較高的安全系數(shù)，很難取得用戶長久信任，立足市場(chǎng)。

新智元?jiǎng)?chuàng)始人兼CEO楊靜對(duì)《每日經(jīng)濟(jì)新聞》記者表示，AI換臉并非新鮮事，支持這種場(chǎng)景的機(jī)器學(xué)習(xí)技術(shù)——Deepfakes已經(jīng)相當(dāng)成熟。Deepfakes指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創(chuàng)建而成，F(xiàn)akeApp則可實(shí)現(xiàn)AI換臉。在該項(xiàng)技術(shù)的發(fā)展過程中，也存在一些爭議，AI換臉是否會(huì)侵犯到用戶隱私和信息安全備受關(guān)注。

不過，楊靜也指出，“道高一尺，魔高一丈”，技術(shù)進(jìn)步也會(huì)推動(dòng)科技向善。為了保障AI換臉等場(chǎng)景的安全性，國內(nèi)外的研究者和團(tuán)隊(duì)也推出了AI防偽克星、AI偵測(cè)工具等AI“打假武器”。此外，AI技術(shù)進(jìn)步驅(qū)動(dòng)行業(yè)升級(jí)和效率提升，但要高效安全地運(yùn)用AI技術(shù)，法律的進(jìn)一步完善、監(jiān)管部門的規(guī)范管理、用戶的隱私保護(hù)意識(shí)缺一不可。

封面圖片來源：攝圖網(wǎng)