每經(jīng)記者 李孟林 蔡鼎 譚玉涵    每經(jīng)編輯 譚玉涵 蘭素英 盧祥勇 易啟江    

因強(qiáng)大功能而爆紅的ChatGPT正因數(shù)據(jù)隱私和安全風(fēng)險(xiǎn)在全球掀起一場(chǎng)監(jiān)管風(fēng)暴。

一周之內(nèi)，意大利、德國、法國、愛爾蘭等8國相繼“出手”。此外，它還可能面臨全球首例AI誹謗訴訟。據(jù)悉，馬斯克此前發(fā)起的暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)的公開信響應(yīng)人數(shù)仍在不斷增加，截至發(fā)稿，已有超1.8萬人簽名。

意大利監(jiān)管方是出于何種考慮？AI會(huì)出現(xiàn)意識(shí)嗎？《每日經(jīng)濟(jì)新聞》記者連線愛爾蘭數(shù)據(jù)保護(hù)委員會(huì)以及中國人民大學(xué)高瓴人工智能學(xué)院教授盧志武進(jìn)行解讀。

人工智能的未來，充滿巨大想象空間。圖為第六屆世界智能大會(huì)上，參會(huì)嘉賓在參觀展覽 新華社圖

8國“圍剿”ChatGPT

因強(qiáng)大功能而爆紅的ChatGPT正因數(shù)據(jù)隱私和安全風(fēng)險(xiǎn)在全球掀起一場(chǎng)監(jiān)管風(fēng)暴。

繼意大利宣布暫時(shí)封禁ChatGPT之后，德國也表示正在考慮暫時(shí)禁用。緊隨其后，法國、愛爾蘭、西班牙等歐洲國家的監(jiān)管機(jī)構(gòu)也相繼表達(dá)了類似可能性。與此同時(shí)，加拿大的隱私監(jiān)管機(jī)構(gòu)已經(jīng)宣布對(duì)OpenAI展開調(diào)查，美國方面也在探討加強(qiáng)對(duì)AI的監(jiān)管。不僅如此，由于生成了虛假內(nèi)容，ChatGPT恐將在澳大利亞面臨全球首例誹謗訴訟。

此外，馬斯克、圖靈獎(jiǎng)得主本吉奧等1000余名科技大佬還發(fā)表聯(lián)名公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。截至發(fā)稿，這份公開信的簽名人數(shù)已超18000人。

“我們正在關(guān)注意大利監(jiān)管機(jī)構(gòu)的行動(dòng)，以了解其行動(dòng)背后的理由。在ChatGPT這件事情上我們將和歐盟所有的數(shù)據(jù)保護(hù)機(jī)構(gòu)協(xié)作。”愛爾蘭數(shù)據(jù)保護(hù)委員會(huì)（DPC）對(duì)《每日經(jīng)濟(jì)新聞》記者表示。

意大利對(duì)ChatGPT的禁令，掀起了一輪針對(duì)OpenAI的監(jiān)管風(fēng)暴，德國監(jiān)管機(jī)構(gòu)已計(jì)劃跟進(jìn)，表示正在考慮暫時(shí)禁用ChatGPT，緊隨其后，法國、愛爾蘭、西班牙等歐洲國家的數(shù)據(jù)監(jiān)管也相繼表達(dá)了類似擔(dān)憂。

OpenAI面臨的壓力可謂與日俱增。除歐洲外，加拿大方面已經(jīng)采取行動(dòng)，其隱私監(jiān)管機(jī)構(gòu)宣布因數(shù)據(jù)違規(guī)問題對(duì)OpenAI展開調(diào)查。而在美國，拜登也會(huì)見了科技顧問，討論AI帶來的風(fēng)險(xiǎn)和機(jī)遇，并表示將加強(qiáng)監(jiān)管。

為了打消疑慮和擔(dān)憂，OpenAI也在積極行動(dòng)。當(dāng)?shù)貢r(shí)間4月5日晚，OpenAI CEO薩姆·阿爾特曼表示將于次日向意大利數(shù)據(jù)保護(hù)局提交相應(yīng)措施。意大利數(shù)據(jù)保護(hù)局表示將評(píng)估OpenAI的方案，該機(jī)構(gòu)同時(shí)強(qiáng)調(diào)，他們無意阻礙人工智能技術(shù)的發(fā)展。同日，OpenAI還在官網(wǎng)發(fā)布了題為《我們保障AI安全的方法》的文章，介紹了該公司為保障安全性在六個(gè)方面進(jìn)行的部署。

但在隱私和數(shù)據(jù)安全之外，ChatGPT生成錯(cuò)誤事實(shí)的“幻覺”問題也開始在現(xiàn)實(shí)世界中掀起波瀾。

據(jù)路透社4月5日?qǐng)?bào)道，澳大利亞赫本郡市長布賴恩·胡德（Brian Hood）稱在ChatGPT生成的內(nèi)容里，自己因賄賂東南亞官員而被判處30個(gè)月監(jiān)禁，這與事實(shí)完全不符，但“其中有些段落卻是絕對(duì)精確的，包括數(shù)字、姓名、日期、地點(diǎn)等”。

胡德表示，如果OpenAI不糾正ChatGPT關(guān)于其曾因賄賂入獄服刑的虛假說法，他可能會(huì)起訴OpenAI，這將是針對(duì)生成式AI的第一起誹謗訴訟。

對(duì)于意大利暫時(shí)封禁ChatGPT的做法，中國人民大學(xué)高瓴人工智能學(xué)院教授、首個(gè)中文通用多模態(tài)預(yù)訓(xùn)練模型“文瀾B(tài)riVL”的主要設(shè)計(jì)者盧志武認(rèn)為這并不明智。

“一個(gè)新技術(shù)總會(huì)有好的和不好的方面，不能說因?yàn)橛胁缓玫牡胤骄桶阉?。汽車?huì)造成車禍，難道就因此把汽車禁掉嗎？歐洲本來在AI方面就落后于美國，與中國也有差距，禁掉之后不是會(huì)更差么？”他對(duì)《每日經(jīng)濟(jì)新聞》記者解釋稱。

“像隱私問題和AI生成內(nèi)容以假亂真的問題，可以通過法律手段去約束AI模型，這樣研發(fā)者在訓(xùn)練模型時(shí)就會(huì)規(guī)避這些風(fēng)險(xiǎn)。”盧志武進(jìn)一步說道。

此外，法律還可以規(guī)定使用者必須對(duì)AI生成的圖片和視頻等內(nèi)容進(jìn)行標(biāo)注，假如國家法律部門檢測(cè)到未標(biāo)注的生成內(nèi)容，可以采取懲罰措施。“特別是新聞相關(guān)的內(nèi)容，一定不能是AI生成的，否則就亂套了，成為了假新聞。”盧志武表示。

盧志武認(rèn)為，AI法律完善的目標(biāo)就是讓AI的開發(fā)者和使用者都“心里有數(shù)”，但對(duì)于新生事物的法律監(jiān)管有滯后性，這在AI上也不例外。

針對(duì)AI生成內(nèi)容的事實(shí)錯(cuò)誤問題，盧志武認(rèn)為可以通過工程手段解決，比如先利用搜索引擎去搜索互聯(lián)網(wǎng)上的檔案性內(nèi)容，然后再利用這些內(nèi)容生成答案，這樣能在很大程度上消除事實(shí)性錯(cuò)誤。

自我迭代更可怕?

數(shù)據(jù)安全和錯(cuò)誤內(nèi)容是生成式AI帶來的緊迫而現(xiàn)實(shí)的問題，但尚可以通過技術(shù)和法律手段加以規(guī)避。隨著AI技術(shù)的飛速發(fā)展，人類可能面臨從未遇到過的新威脅。

近日，馬斯克、圖靈獎(jiǎng)得主本吉奧等1000余名科技大佬發(fā)表聯(lián)名公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。公開信指出，AI最終可能超越人類，使人類失去對(duì)文明的掌控能力。截至發(fā)稿，這份公開信的簽名人數(shù)已經(jīng)超18000人。

盧志武對(duì)《每日經(jīng)濟(jì)新聞》記者稱，這份公開信的目的是呼吁大家重視大語言模型的安全性，但實(shí)際上沒有操作性，因?yàn)闆]有相應(yīng)的全球權(quán)威機(jī)構(gòu)出面來暫停大型AI模型的實(shí)驗(yàn)。

在ChatGPT展現(xiàn)出強(qiáng)大的對(duì)話能力時(shí)，人類也越來越擔(dān)心：會(huì)不會(huì)AI系統(tǒng)在迅速進(jìn)化的過程中“涌現(xiàn)”出自我意識(shí)？

“未來有沒有我不敢說，但至少從GPT-4來看，它是不會(huì)產(chǎn)生意識(shí)的。”盧志武對(duì)記者表示。“但我們開發(fā)AI的終極目標(biāo)是實(shí)現(xiàn)AGI（通用人工智能），就是讓AI模型表現(xiàn)得像人一樣。如果要達(dá)到這個(gè)目標(biāo)，那么這個(gè)過程中真的有可能失控。”

在盧志武看來，所謂的失控并不是AI出現(xiàn)意識(shí)，而是AI學(xué)會(huì)了自我迭代。“AI模型自己不停地學(xué)習(xí)，甚至創(chuàng)造出新的東西來，而這個(gè)過程又在人類的監(jiān)控之外。這種自我學(xué)習(xí)是非常容易實(shí)現(xiàn)的，我覺得這才是AI最大的威脅。”

近日，研究人員Noah Shinn和Ashwin Gopinath在預(yù)印本網(wǎng)站arxiv提交論文稱，通過引入“反思”技術(shù)，GPT-4在多項(xiàng)高難度測(cè)試中的表現(xiàn)提升了30%。據(jù)悉，這種技術(shù)讓AI系統(tǒng)模仿人類的自我反思，并評(píng)估自己的表現(xiàn)，“GPT-4在完成各種測(cè)試的時(shí)候，會(huì)增加一些額外的步驟，讓它能夠自己設(shè)計(jì)測(cè)試來檢查自己的答案，找出錯(cuò)誤和不足之處，然后根據(jù)發(fā)現(xiàn)來修改自己的解決方案。”

盧志武認(rèn)為，AI學(xué)會(huì)自我迭代所產(chǎn)生的后果難以具體想象，但如果一個(gè)東西在不停地變強(qiáng)而人類卻不知道，這是“最可怕的”。未來，假如AI模型和機(jī)器人進(jìn)行結(jié)合，則AI就可以產(chǎn)生動(dòng)作，“你都不知道它是不是會(huì)拿起槍來做什么事情”。

而實(shí)際上，科學(xué)家已經(jīng)在探索如何將生成式AI與機(jī)器人相結(jié)合。微軟的科學(xué)家2月份發(fā)布論文稱，他們正在研究利用ChatGPT來操控機(jī)器人，以實(shí)現(xiàn)以自然語言與機(jī)器人交互的目的，并展示了無人機(jī)和機(jī)械臂的操作案例。

封面圖片來源：新華社