每經(jīng)記者 蔡鼎    每經(jīng)編輯 蘭素英    

雖然OpenAI這場(chǎng)持續(xù)了五天的鬧劇最終以山姆·阿爾特曼（Sam Altman）重返公司收尾，但阿爾特曼上周五為何會(huì)突然被董事會(huì)解雇對(duì)外界仍然是個(gè)未解之謎。

據(jù)路透社和The Information等媒體報(bào)道，阿爾特曼被突然解雇，或許跟他在舊金山APEC峰會(huì)的一場(chǎng)演講有關(guān)。阿爾特曼當(dāng)時(shí)在演講中提到了OpenAI在人工智能領(lǐng)域的又一重大進(jìn)展。據(jù)悉，這一進(jìn)展可能是OpenAI內(nèi)部稱之為“Q*（發(fā)音為Q-Star）”模型的項(xiàng)目，這或是該公司在通用人工智能（下稱AGI）領(lǐng)域的突破，已經(jīng)具備解決某些數(shù)學(xué)問(wèn)題的推理能力。目前，類似GPT-4的生成式人工智能產(chǎn)品都尚不具備推理能力。

這一技術(shù)突破曝光后，包括內(nèi)部員工和外部研究人員在內(nèi)的人士均對(duì)其安全性感到擔(dān)憂。就連馬斯克都在X（原推特）上稱，“非常令人擔(dān)憂！”

強(qiáng)大算力支撐下“Q*”可解決某些數(shù)學(xué)問(wèn)題

阿爾特曼在美東時(shí)間11月16日舊金山舉行的APEC峰會(huì)上開(kāi)玩笑稱，他相信重大的進(jìn)展就在眼前，“在OpenAI的歷史上，已經(jīng)有四次（重大進(jìn)展）了，當(dāng)我們把無(wú)知的面紗解開(kāi)，把探索的前沿向前推進(jìn)時(shí)，能夠做到這一點(diǎn)是我一生的職業(yè)榮譽(yù)。”

然而，講話后的第二天，阿爾特曼就突然被OpenAI董事會(huì)解雇。

路透社援引的知情人士透露稱，OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）本周三向員工透露，關(guān)于“Q*”模型取得人工智能技術(shù)突破的信，是導(dǎo)致OpenAI前董事會(huì)解雇奧特曼的原因。

此前，OpenAI的幾位研究人員向董事會(huì)發(fā)送了一封信，警告稱他們發(fā)現(xiàn)了一種能夠威脅到人類的強(qiáng)大人工智能，即“Q*”。研究人員還提到了一個(gè)“人工智能科學(xué)家”團(tuán)隊(duì)工作，且多個(gè)消息來(lái)源證實(shí)了該團(tuán)隊(duì)的存在。其中一名知情人士表示，該團(tuán)隊(duì)由早期的“代碼世代（Code Gen）”和“數(shù)學(xué)世代（Math Gen）”團(tuán)隊(duì)合并而成，正在探索如何優(yōu)化現(xiàn)有的人工智能模型，以提高它們的推理能力，并最終執(zhí)行科學(xué)工作。

知情人士稱，OpenAI的一些內(nèi)部員工認(rèn)為，“Q*”模型可能是公司在所謂的AGI領(lǐng)域的一個(gè)突破。OpenAI將AGI描述為“在最具經(jīng)濟(jì)價(jià)值的工作中超越人類的高度自治系統(tǒng)”。

該匿名人士稱，在擁有大量算力資源的情況下，新的“Q*”模型能夠解決某些數(shù)學(xué)問(wèn)題。雖然目前“Q*”的數(shù)學(xué)能力只有小學(xué)生的水平的，但通過(guò)這些測(cè)試讓研究人員對(duì)“Q*”未來(lái)的成功非常樂(lè)觀。

路透社報(bào)道截圖

路透社報(bào)道中稱，人工智能研究人員都認(rèn)為數(shù)學(xué)是生成式人工智能發(fā)展的前沿。目前，生成式人工智能通過(guò)統(tǒng)計(jì)預(yù)測(cè)下一個(gè)單詞，能夠在寫作和語(yǔ)言翻譯方面表現(xiàn)出強(qiáng)大的能力。然而，對(duì)數(shù)學(xué)這種有且只有一個(gè)正確答案的問(wèn)題而言，人工智能若能正確回答，便意味著其擁有了更強(qiáng)的推理能力，類似于人類的能力。

例如，業(yè)內(nèi)人士認(rèn)為，一旦人工智能有了數(shù)學(xué)推理能力，便可以應(yīng)用于新穎的科學(xué)研究當(dāng)中。此外，與普通的人工智能只能解決有限數(shù)量運(yùn)算的計(jì)算器不同，AGI可以概括知識(shí)，并不斷學(xué)習(xí)和理解。

可以說(shuō)，OpenAI在AGI領(lǐng)域的最新進(jìn)展與阿爾特曼密不可分。在阿爾特曼的努力下，OpenAI已經(jīng)將ChatGPT發(fā)展成為史上增長(zhǎng)最快的應(yīng)用之一，并從微軟獲得了超過(guò)100億美元的投資和算力資源，以使ChatGPT接近AGI的高度。 

“Q*”模型引發(fā)廣泛擔(dān)憂

據(jù)The Information，“Q*”模型背后的技術(shù)突破是由OpenAI首席科學(xué)家蘇斯克維爾（Ilya Sutskever）牽頭實(shí)施的，而“Q*”模型是OpenAI頂級(jí)研究人員雅各布·帕喬基（Jakub Pachocki）和西多爾（Szymon Sidor）在蘇斯克維爾的技術(shù)成果上創(chuàng)立。

在過(guò)去的幾個(gè)月里，OpenAI的高級(jí)研究人員還利用這一創(chuàng)新模型構(gòu)建了可以解決基本數(shù)學(xué)問(wèn)題的系統(tǒng)。

最近幾周，該模型的演示在OpenAI內(nèi)部開(kāi)始流傳。部分員工對(duì)此表示擔(dān)憂，他們擔(dān)心在商業(yè)化這種先進(jìn)的人工智能模型的過(guò)程中，OpenAI沒(méi)有適當(dāng)?shù)谋Ｗo(hù)措施。其實(shí)，不光是OpenAI員工，這一模型的發(fā)展速度讓一些關(guān)注人工智能安全的外部研究人員也感到震驚和擔(dān)憂。 

路透社援引的消息人士稱，在給OpenAI董事會(huì)的信中，研究人員也指出了人工智能的潛在危險(xiǎn)，但沒(méi)有說(shuō)明具體安全的問(wèn)題。長(zhǎng)期以來(lái)，計(jì)算機(jī)科學(xué)家一直在討論高度智能機(jī)器帶來(lái)的危險(xiǎn)，例如它們是否會(huì)認(rèn)為毀滅人類符合其利益。

在路透社的上述報(bào)道發(fā)布后，馬斯克本人轉(zhuǎn)發(fā)了該篇文章，并稱“非常令人擔(dān)憂！”

圖片來(lái)源：X平臺(tái)

The Information報(bào)道稱，“Q*”模型取得突破后的幾個(gè)月里，蘇斯克維爾本人似乎對(duì)這項(xiàng)技術(shù)也持保留態(tài)度。今年7月，蘇斯克維爾還組建了一個(gè)團(tuán)隊(duì)，致力于限制來(lái)自比人類聰明得多的人工智能系統(tǒng)的威脅。該團(tuán)隊(duì)在其網(wǎng)頁(yè)上表示，“雖然超級(jí)智能現(xiàn)在看起來(lái)還很遙遠(yuǎn)，但我們相信它可能會(huì)在十年內(nèi)到來(lái)。”

The Information援引知情人士稱，蘇斯克維爾的這項(xiàng)突破幫助OpenAI克服了在獲取足夠高質(zhì)量數(shù)據(jù)來(lái)訓(xùn)練新模型方面的限制，這是開(kāi)發(fā)下一代（生成式人工智能）模型的主要障礙。這項(xiàng)研究涉及使用計(jì)算機(jī)生成的數(shù)據(jù)，而非現(xiàn)實(shí)世界的數(shù)據(jù)。

其實(shí)，多年來(lái)，蘇斯克維爾一直在研究如何讓GPT-4這樣的語(yǔ)言模型解決涉及推理的任務(wù)，比如數(shù)學(xué)或科學(xué)問(wèn)題。2021年，他還啟動(dòng)了一個(gè)名為GPT-Zero的項(xiàng)目，向DeepMind的AlphaZero程序致敬，該程序可以下國(guó)際象棋和圍棋等推理任務(wù)。GPT-Zero團(tuán)隊(duì)當(dāng)時(shí)的假設(shè)認(rèn)為，只要給予語(yǔ)言模型更多的時(shí)間和計(jì)算能力來(lái)生成問(wèn)題的答案，就可能會(huì)讓它們?cè)趯W(xué)術(shù)上取得新的突破。

報(bào)道稱，蘇斯克維爾自身取得的突破以及他對(duì)人工智能安全的擔(dān)憂或許能解釋為何他參與了解雇阿爾特曼的行動(dòng)。

值得注意的是，在阿爾特曼被解雇后，帕喬基和西多爾也提出了辭職，是第一批辭職的OpenAI資深員工。而在阿爾特曼復(fù)職后，二人也一同重返OpenAI。 

封面圖片來(lái)源：視覺(jué)中國(guó)-VCG41N1188747468