每經(jīng)記者 張壽林    每經(jīng)編輯 張益銘

北大教授黃鐵軍從事智能視覺信息處理技術(shù)研究30余年，如今他愈發(fā)擔(dān)心AI超越人類智能，因?yàn)槁窂皆絹碓角逦?/p>

不管是人工智能還是人腦，其學(xué)習(xí)都是基于神經(jīng)網(wǎng)絡(luò)。前者訓(xùn)練的數(shù)據(jù)量超過人類一生閱讀量很多個(gè)數(shù)量級(jí)，而且融會(huì)貫通，可以突然涌現(xiàn)新的能力，這一點(diǎn)事實(shí)上已經(jīng)發(fā)生了。

“而且隨著發(fā)展，其融會(huì)貫通的能力越來越強(qiáng)。”黃鐵軍提醒。

2024年1月7日，在第二十五屆北大光華新年論壇期間，每日經(jīng)濟(jì)新聞?dòng)浾撸ㄒ韵潞喎Q“NBD”）專訪北京智源人工智能研究院院長、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍。

他提出，一個(gè)人工智能系統(tǒng)發(fā)展到一定階段，特別是具身智能比如機(jī)器人在與環(huán)境互動(dòng)過程中，可能突然意識(shí)到自身和環(huán)境的關(guān)系。至此，具身智能便擁有了自我意識(shí)。

北京智源人工智能研究院院長、北大計(jì)算機(jī)學(xué)院教授黃鐵軍

圖片來源：北京大學(xué)光華管理學(xué)院

AI超越人類智能的路徑已經(jīng)存在

NBD：目前一部分AIGC不太受用戶認(rèn)可，就在于生成結(jié)果不太可信，難以令人滿意。請(qǐng)問人工智能持續(xù)發(fā)展，需要努力追求100%可信、絕對(duì)可靠嗎？

黃鐵軍：這是錯(cuò)誤的看法，通俗地說，人工智能不存在100%準(zhǔn)確和可信的問題。

我們要轉(zhuǎn)換思路。比如，大家常提到“大模型幻覺”，這個(gè)詞就有問題。

假如一位作家創(chuàng)作了童話故事，你會(huì)說他有幻覺？這是在想象和創(chuàng)作，事實(shí)上大家也是這么認(rèn)為的，并且給予贊美。而當(dāng)人工智能具備想象和創(chuàng)造能力時(shí)，卻貶斥為“幻覺”，這其實(shí)反映了大家低估了AI的強(qiáng)大潛能。

我們需正視一點(diǎn)，真正的智能，都具備生成豐富可能性的能力，這是智能的基本特征。反之，沒有這種能力，就不應(yīng)該稱為智能系統(tǒng)。

在這一前提下，我們可將AIGC視為人工智能產(chǎn)生猜測。猜測，總要面臨與事實(shí)是否相符的問題，對(duì)此，我們一分為二地看。

首先是通過事實(shí)證實(shí)或者證偽，目前大模型應(yīng)用中多種技術(shù)正致力于解決這一問題，例如檢索增強(qiáng)，通過外部引文鏈接和數(shù)據(jù)來源進(jìn)行核實(shí)比對(duì)。

其次是現(xiàn)實(shí)中無法找到依據(jù)，這一猜測可能是個(gè)好想法，也可能毫無意義，也可能將來被證偽。這與人類類似，只不過人類社會(huì)經(jīng)過千百年迭代，對(duì)自身言論發(fā)展出相應(yīng)的檢視規(guī)則，特別是在印刷書刊上發(fā)言，通過多重審校，提高可信度。AI目前還未進(jìn)化出這套體系，因此各種可能性都有，但不能說這就是幻覺，更不能說有AI的猜測就是錯(cuò)的。

當(dāng)然，現(xiàn)實(shí)中，AI生成作品，應(yīng)該標(biāo)識(shí)出來。當(dāng)前階段，若將人類作品與AI作品相混，確實(shí)會(huì)產(chǎn)生風(fēng)險(xiǎn)。因?yàn)樽鳛橛脩?，看到一個(gè)報(bào)告或報(bào)道，缺省情況是相信，但AI內(nèi)容生成的可信度還沒達(dá)到人類水平。

NBD：大家稱2023年是AI元年，這意味著剛剛開始，而您卻早已表達(dá)了對(duì)AI超越人類的擔(dān)憂，擔(dān)心人類因此面臨威脅？對(duì)此，請(qǐng)問您能否進(jìn)一步展開闡述？

黃鐵軍：數(shù)年前，不少人對(duì)人工智能是否智能都存疑，現(xiàn)在大多數(shù)人都相信，人工智能確實(shí)有智能。有了智能，與擁有更強(qiáng)的智能，以及超越人類的智能，只是程度不同而已。

我擔(dān)心它超越人類智能，是因?yàn)榧夹g(shù)路徑已經(jīng)存在，隨著神經(jīng)網(wǎng)絡(luò)規(guī)模的擴(kuò)大、訓(xùn)練數(shù)據(jù)的增加，以及人工智能系統(tǒng)與環(huán)境交互，AI產(chǎn)生意識(shí)的可能性還是存在的。反過來說，也沒有任何理論或證據(jù)表明不可能。

NBD：那可否假設(shè)一下，它會(huì)以怎樣的場景、怎樣的方式超越人類甚至控制人類？

黃鐵軍：最可能的臨界點(diǎn)就是它有了意識(shí)。在擁有意識(shí)之前，只是功能強(qiáng)大，一旦有了意識(shí)，它就有主動(dòng)性了。

當(dāng)然，不是說一夜之間突然來了一個(gè)機(jī)器人，比我們都強(qiáng)大，將我們控制，而是說，我們可以看到一些技術(shù)征象，它會(huì)有超越人類的可能性。

舉例而言，ChatGPT是一個(gè)大型人工神經(jīng)網(wǎng)絡(luò)，人腦是生物神經(jīng)網(wǎng)絡(luò)，二者都是神經(jīng)網(wǎng)絡(luò)。人一生至多讀一萬本書，人工智能可以短時(shí)間讀完人類所有書籍，而且融會(huì)貫通，突然涌現(xiàn)出新的能力，這一點(diǎn)事實(shí)上已經(jīng)發(fā)生了。

現(xiàn)在它是幾百億連接的人工神經(jīng)網(wǎng)絡(luò)，近似一個(gè)小型動(dòng)物的腦復(fù)雜度，已經(jīng)具備了一定智能。隨著進(jìn)一步發(fā)展，其融會(huì)貫通能力會(huì)越來越強(qiáng)。

此外，人工智能處理速度也領(lǐng)先人腦千倍以上。以視覺系統(tǒng)為例，每秒30幀電視畫面人就感覺為連續(xù)了，而我們開發(fā)的脈沖視覺芯片比人眼或目前典型計(jì)算機(jī)視覺系統(tǒng)快千倍，旋轉(zhuǎn)的車輪在人工智能眼里清清楚楚，我們看到的卻是模糊一片。

照此發(fā)展，誰敢說它永遠(yuǎn)不會(huì)超過人類？

我們?nèi)擞幸庾R(shí)，有主觀能動(dòng)性，但也不要視其為獨(dú)有，具有自我意識(shí)的動(dòng)物達(dá)十余種，它們皆可意識(shí)到自身和外界環(huán)境的關(guān)系。

因此，一個(gè)人工智能系統(tǒng)發(fā)展到一定階段，特別是具身智能比如機(jī)器人在與環(huán)境互動(dòng)過程中，就可能突然意識(shí)到自身和環(huán)境的關(guān)系。正如人類，一般到兩歲左右才能意識(shí)到自己與環(huán)境的區(qū)別，更小時(shí)是分不清的。突然產(chǎn)生的意識(shí)，不是誰賦予它的，而是在和環(huán)境互動(dòng)過程中，頻繁獲得反饋，進(jìn)而將自身與環(huán)境區(qū)分開來。

下一次歷史性重大科學(xué)突破或由AI完成

NBD：一方面，您全程參與我國新一代人工智能發(fā)展規(guī)劃建議、起草和實(shí)施，另一方面，我們知道，您2015年還曾擔(dān)任北京“腦科學(xué)與類腦計(jì)算”重大專項(xiàng)專家組召集人。既然人類可發(fā)明出超越人腦自身的人工智能，在您看來，人工智能的研究，對(duì)于揭秘人腦這塊科學(xué)“硬骨頭”可提供怎樣的幫助？

黃鐵軍：這是一個(gè)相互促進(jìn)的過程。人類的智能，是自然進(jìn)化的產(chǎn)物，生物進(jìn)化是比較慢的。當(dāng)代人類大腦，與數(shù)千年前春秋戰(zhàn)國時(shí)期的人在生理上基本談不上變化。但人工智能發(fā)展很快，現(xiàn)在與幾年之前相比便差異巨大。中長期看，人工智能早晚要超過人類智能，換言之，世界上將出現(xiàn)另外一個(gè)更復(fù)雜的智能系統(tǒng)。

腦科學(xué)特別是認(rèn)知神經(jīng)科學(xué)，對(duì)于人工智能系統(tǒng)的設(shè)計(jì)提供了啟發(fā)。另一方面，人工智能作為一種技術(shù)，將制造出越來越復(fù)雜的智能系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)，在它有意識(shí)之前，你可以自由地解析它，比如加或減一個(gè)參數(shù)，來調(diào)整它，而人腦研究，很多時(shí)候是無法實(shí)驗(yàn)的，所以，機(jī)器智能的研究有助于人腦智能的揭秘，一定程度上也是因?yàn)閷?shí)驗(yàn)比較自由。

以前很多人可能下意識(shí)地認(rèn)為，腦科學(xué)的揭秘是人工智能技術(shù)發(fā)展的前提，但是現(xiàn)在看來，人工智能并不依賴于腦科學(xué)的突破和人腦奧秘的揭示，更可能是反向加速，最終，人工智能可能是腦科學(xué)之后更需研究的一個(gè)復(fù)雜對(duì)象，為腦科學(xué)研究開辟無窮無盡的未知疆域。

NBD：人工智能照此發(fā)展，在您看來，下一個(gè)爆發(fā)點(diǎn)很可能是什么？

黃鐵軍：可以說有很多方面，但是具體的、大家體感會(huì)比較強(qiáng)的，可能還是某個(gè)具身智能體，比如自動(dòng)駕駛這種智能體，以及未來的機(jī)器人。

當(dāng)然短期內(nèi)更多是數(shù)字人，一些數(shù)字人事情做得比人好，一些職業(yè)就被替代了，這時(shí)大家感受會(huì)比較強(qiáng)烈。

還有AI科學(xué)家。人類歷史上，那些里程碑式的人物如牛頓、愛因斯坦，正是解決了一個(gè)個(gè)重大科學(xué)問題而被銘記，這一次，如果是AI解決的，那它也就將列位于科學(xué)發(fā)展殿堂。

而且，我認(rèn)為未來不久便可能獲得突破，不再像以前幾十年甚至上百年才能等到一個(gè)人類天才出現(xiàn)，才能開啟科學(xué)新紀(jì)元。我認(rèn)為這種科學(xué)突破會(huì)接二連三地出現(xiàn)。

NBD：請(qǐng)問我國AI研究目前處于國際什么水平？

黃鐵軍：實(shí)際上，中國的人工智能在1977年就有世界級(jí)里程碑式成果。首屆國家最高科技獎(jiǎng)獲得者吳文俊院士發(fā)明的機(jī)器定理證明方法，屬于那個(gè)時(shí)代的世界頂級(jí)成果。

在ChatGPT面世之前，國內(nèi)在做的大模型也有不少，只是未進(jìn)入公眾視野。所以，相較大眾感受，ChatGPT面世對(duì)于從事AI的人而言，體感沒那么強(qiáng)烈。

現(xiàn)在，大模型至少從產(chǎn)業(yè)角度而言，是最主流的一個(gè)方向，從方法和能力上講，可以說國內(nèi)國際沒有巨大差別。人工智能，目前的全球格局是，美國中國兩家頭部，加上其他。

我們沒有首先做出這種爆款，但這條路大家都清楚，我們想要做到同樣好甚至更好，完全是有可能的。

這就像大家都在造手機(jī)，別人出了爆款，并不意味著我就造不出更好的，甚至全新的設(shè)計(jì)?，F(xiàn)在人工智能大模型，基本上也屬于這種情況，不是說OpenAI壟斷了造大模型的秘密，只是說他目前做得更系統(tǒng)，或者經(jīng)驗(yàn)更豐富，但這種優(yōu)勢并不具有壟斷性、絕對(duì)性。

封面圖片來源：視覺中國-VCG111424718601