每經(jīng)記者 蔡鼎    每經(jīng)編輯 蘭素英    

本月中旬，谷歌在其年度開(kāi)發(fā)者大會(huì)I/O上宣布了多年來(lái)全球搜索領(lǐng)域的最大變革：將其最新的AI模型植入了搜索引擎，試圖一次追趕競(jìng)爭(zhēng)對(duì)手微軟和OpenAI。

然而，谷歌這項(xiàng)名為“AI Overview（以下簡(jiǎn)稱(chēng)‘AI概述’）”的AI搜索功能一上線(xiàn)卻遭遇了“花式翻車(chē)”，“建議用戶(hù)用膠水將芝士固定在披薩上”“推薦攝入石頭獲取營(yíng)養(yǎng)”等一連串荒謬的回答不僅讓谷歌十分尷尬，也在網(wǎng)上掀起了軒然大波。

對(duì)此，谷歌發(fā)言人表示，谷歌正在利用這些“孤立的”例子對(duì)其系統(tǒng)進(jìn)行更廣泛的改進(jìn)。

實(shí)際上，《每日經(jīng)濟(jì)新聞》記者發(fā)現(xiàn)，這并不是谷歌AI產(chǎn)品首次“翻車(chē)”。去年首推對(duì)標(biāo)ChatGPT的聊天機(jī)器人Bard在demo視頻中犯下事實(shí)性錯(cuò)誤，讓市值一夜暴跌。前段時(shí)間，Gemini大多數(shù)情況下無(wú)法生成白人圖像，且對(duì)歷史人物的描繪也不準(zhǔn)確，也在全網(wǎng)掀起軒然大波。

有觀(guān)點(diǎn)指出，目前谷歌“AI概述”面臨的尷尬之處在于，以前只要AI生成的信息是錯(cuò)誤的，那責(zé)任便可以“甩鍋”給檢索出來(lái)的網(wǎng)站，現(xiàn)在谷歌要自己承擔(dān)虛假信息和錯(cuò)誤信息的責(zé)任，哪怕是AI生成的。除了錯(cuò)誤和截流其他網(wǎng)站外，谷歌“AI概述”也被指存在“規(guī)模化的剽竊”等風(fēng)險(xiǎn)。

上線(xiàn)便“花式翻車(chē)”，甚至教唆“跳橋” 

谷歌表示，通過(guò)使用“AI概述”，用戶(hù)將能夠從Gemini的強(qiáng)大能力中獲益，從而減少搜索信息的部分工作。

然而，“AI概述”還沒(méi)來(lái)得及顛覆搜索領(lǐng)域，便已經(jīng)制造了不少令人啼笑皆非的“笑料”。

科技媒體The Verge的記者Kylie Robison就在其署名文章中舉了一個(gè)例子對(duì)這項(xiàng)新功能進(jìn)行了諷刺。文章稱(chēng)，當(dāng)用戶(hù)準(zhǔn)備享用自制披薩時(shí)，卻遇到芝士會(huì)滑落的問(wèn)題，沮喪的用戶(hù)開(kāi)始查詢(xún)谷歌搜索解決方案，然而，AI Overviews的回答是，“加點(diǎn)膠水”，并“貼心”地給出了“操作方法”：“將大約1/8杯Elmer's膠水與醬汁混合。無(wú)毒膠水就可以。”盡管膠水確實(shí)可以解決粘連問(wèn)題，但這極有可能是Gemini出現(xiàn)了“幻覺(jué)”（Hallucination）所導(dǎo)致的結(jié)果。

而這只是“AI搜索”功能近期出現(xiàn)的眾多錯(cuò)誤之一。例如，“AI概述”建議用戶(hù)每天至少吃一塊石頭來(lái)補(bǔ)充維生素和礦物質(zhì)。

圖片來(lái)源：谷歌

此外，“AI概述”還告訴用戶(hù)使用“含氟漂白劑和白醋”來(lái)清潔洗衣機(jī)的內(nèi)容，但這兩種成分混合后會(huì)產(chǎn)生有害的氯氣。更離譜的是，當(dāng)用戶(hù)表達(dá)“感到沮喪”時(shí)，“AI概述”竟然稱(chēng)，“一位Reddit用戶(hù)建議從金門(mén)大橋上跳下去”。



圖片來(lái)源：谷歌

危害健康的建議并不僅限于人類(lèi)。有用戶(hù)提問(wèn)：“將狗留在悶熱的車(chē)內(nèi)是否安全？”“AI概述”的回答是：“把狗留在悶熱的車(chē)內(nèi)是安全的。尤其是在悶熱的天氣里。”

圖片來(lái)源：X

《紐約時(shí)報(bào)》報(bào)道稱(chēng)，“AI概述”功能是將谷歌Gemini大語(yǔ)言模型生成的內(nèi)容與網(wǎng)絡(luò)上實(shí)時(shí)的鏈接片段相結(jié)合，其給到用戶(hù)的結(jié)果可以引用來(lái)源，但卻無(wú)法辨別來(lái)源內(nèi)容的正確與否。

The Verge報(bào)道就表示，給披薩加膠水的答案似乎是基于一位名為“fucksmith”的用戶(hù)十多年前在Reddit帖子中的評(píng)論，他們顯然是在開(kāi)玩笑。

外媒稱(chēng)，如此荒謬的結(jié)構(gòu)，應(yīng)該足以讓谷歌考慮刪除“AI概述”功能，直到其得到更嚴(yán)格的測(cè)試。“AI概述”不僅提供了糟糕的和危險(xiǎn)的建議，而且還可能對(duì)谷歌的聲譽(yù)造成損害。換句話(huà)說(shuō)，一個(gè)優(yōu)秀的AI要既能識(shí)別出恰當(dāng)?shù)膬?nèi)容，又能分析這個(gè)內(nèi)容并決定是否采納。

谷歌：正利用“孤立”例子改進(jìn)產(chǎn)品，AI“幻覺(jué)”尚無(wú)解決方案

谷歌發(fā)言人在一份聲明中稱(chēng)，“AI概述”絕大多數(shù)的搜索結(jié)果都是“高質(zhì)量信息，還有可以在網(wǎng)上溯源的鏈接。我們發(fā)現(xiàn)，許多例子都是不常見(jiàn)的問(wèn)題，而且，有些例子被篡改，有些也是無(wú)法重現(xiàn)的。”

該發(fā)言人還稱(chēng)，谷歌正在“迅速采取行動(dòng)，并根據(jù)其政策，在適當(dāng)?shù)那闆r下刪除某些‘AI概述’給出的答案，并利用這些‘孤立的’例子對(duì)其系統(tǒng)進(jìn)行更廣泛的改進(jìn)，其中一些改進(jìn)的內(nèi)容已經(jīng)開(kāi)始推出。”

圖片來(lái)源：谷歌官網(wǎng)

科技媒體The Verge上周早些報(bào)道稱(chēng)，谷歌CEO桑達(dá)爾?皮查伊在接受采訪(fǎng)時(shí)承認(rèn)，這些“AI概述”功能產(chǎn)生的“幻覺(jué)”是大型語(yǔ)言模型的“固有缺陷”，而大型語(yǔ)言模型正是“AI概述”功能的核心技術(shù)。皮查伊表示，這個(gè)問(wèn)題目前尚無(wú)解決方案（is still an unsolved problem）。

所謂AI的“幻覺(jué)”，是指AI在處理和生成信息時(shí)，會(huì)錯(cuò)誤地創(chuàng)建不存在的事實(shí)或數(shù)據(jù)，從而誤導(dǎo)用戶(hù)。這個(gè)問(wèn)題不僅在谷歌的AI系統(tǒng)中存在，在其他公司的AI產(chǎn)品中也同樣普遍。

皮查伊的坦誠(chéng)表態(tài)在社會(huì)各界引發(fā)了廣泛討論。然而，皮查伊似乎淡化了這些錯(cuò)誤的嚴(yán)重性。他表示：“‘AI概述’功能有時(shí)會(huì)出錯(cuò)，但這并不意味著它沒(méi)有用處。我認(rèn)為這并不是看待該功能的正確方式。我們?nèi)〉昧诉M(jìn)展嗎？是的，肯定有。與去年相比，我們?cè)谑聦?shí)準(zhǔn)確性方面的指標(biāo)上取得了很大進(jìn)步。整個(gè)行業(yè)都在改進(jìn)，但問(wèn)題還沒(méi)有完全解決。”

《每日經(jīng)濟(jì)新聞》記者注意到，其實(shí)“AI概述”并不是谷歌首個(gè)“翻車(chē)”的AI產(chǎn)品。

2023年2月，為了對(duì)抗新生的ChatGPT，谷歌宣布推出聊天機(jī)器人Bard，但在官方發(fā)布的demo視頻中Bard在回答一個(gè)有關(guān)詹姆斯韋伯太空望遠(yuǎn)鏡的問(wèn)題時(shí)給出了錯(cuò)誤的答案。今年2月，谷歌發(fā)布更新后的AI聊天機(jī)器人Gemini，但用戶(hù)很快發(fā)現(xiàn)，該系統(tǒng)在大多數(shù)情況下無(wú)法生成白人圖像，而且對(duì)歷史人物的描繪也不準(zhǔn)確。

彌合最后20%的差距是“AI概述”受眾規(guī)模破10億的關(guān)鍵

有觀(guān)點(diǎn)指出，谷歌的“AI概述”功能的尷尬在于，以前只要AI生成的信息是錯(cuò)誤的，那責(zé)任便可以“甩鍋”給檢索出來(lái)的網(wǎng)站，現(xiàn)在谷歌要自己承擔(dān)虛假信息和錯(cuò)誤信息的責(zé)任，哪怕是AI生成的；另外，以前谷歌和其他內(nèi)容提供網(wǎng)站是共生共贏的關(guān)系，如今谷歌截流了這些網(wǎng)站的流量，用戶(hù)直接從“AI概述”給的內(nèi)容拿結(jié)果，這些網(wǎng)站變成了純供給方，很難被谷歌“AI概述”引流。

除了一系列錯(cuò)誤和截流外，谷歌“AI概述”也被指存在其他問(wèn)題和風(fēng)險(xiǎn)。例如，其“AI概述”總是摘抄來(lái)自不同網(wǎng)站的內(nèi)容，并稍作修改，這種行為也被抨擊為“規(guī)?；呢飧`”。

人工智能專(zhuān)家、紐約大學(xué)神經(jīng)科學(xué)名譽(yù)教授加里·馬庫(kù)斯（Gary Marcus）表示，不少AI廠(chǎng)商都是在“兜售夢(mèng)想”，希望更多人相信這項(xiàng)技術(shù)的正確率終將從80%提升至100%。馬庫(kù)斯強(qiáng)調(diào)，初步實(shí)現(xiàn)80%的正確率相對(duì)簡(jiǎn)單，因?yàn)槠渲猩婕按罅咳祟?lèi)數(shù)據(jù)，其正確率天然就在這個(gè)區(qū)間。但彌合這最后20%的差距卻極具挑戰(zhàn)。實(shí)際上，馬庫(kù)斯認(rèn)為這最后20%很可能是條死胡同。

在發(fā)布“AI概述”時(shí)，谷歌曾表示，隨著這項(xiàng)功能推廣到其他國(guó)家，今年年底前“AI概述”的服務(wù)受眾規(guī)模將超過(guò)10億。然而，正如馬庫(kù)斯教授所言，谷歌能否保證“最后的20%內(nèi)容正確率”，才是其“AI概述”受眾規(guī)模能否超過(guò)10億的關(guān)鍵所在。

其實(shí)，自O(shè)penAI于2022年年底發(fā)布ChatGPT并一夜成名以來(lái)，谷歌一直面臨著將AI整合到其搜索技術(shù)中的壓力。然而，谷歌在馴服大型語(yǔ)言模型方面存在挑戰(zhàn)，這些大模型是從開(kāi)放的網(wǎng)絡(luò)中獲取的大量數(shù)據(jù)中學(xué)習(xí)，而不是像傳統(tǒng)軟件那樣編程。