每經(jīng)編輯 杜宇    每經(jīng)實(shí)習(xí)編輯 宋欣悅    

7月9日，美國(guó)約翰·霍普金斯大學(xué)公布了對(duì)“ChatGPT之母”、OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）的采訪視頻。這場(chǎng)采訪時(shí)間是6月10日，訪談中，穆拉蒂不僅與主持人討論了OpenAI與Apple的合作伙伴關(guān)系，還深入探討了人工智能的潛在風(fēng)險(xiǎn)、數(shù)據(jù)隱私以及技術(shù)對(duì)社會(huì)的深遠(yuǎn)影響

• 核心要點(diǎn)

1.關(guān)于“ChatGPT-5”

下一代大模型將非常強(qiáng)大，我們可以期待像從GPT-3到GPT-4那樣的巨大飛躍。

2.關(guān)于AGI的預(yù)測(cè)

在未來(lái)十年內(nèi)，我們將有超強(qiáng)的AI系統(tǒng)。

3.關(guān)于AI與教育

如果教育能夠根據(jù)你的思維方式、文化規(guī)范和具體興趣進(jìn)行定制，這將極大地?cái)U(kuò)展知識(shí)和創(chuàng)造力的水平。AI非常強(qiáng)大，能夠推動(dòng)人類知識(shí)的進(jìn)步，從而推動(dòng)整個(gè)文明的進(jìn)步。

4.關(guān)于數(shù)據(jù)來(lái)源

我們主要有三個(gè)數(shù)據(jù)來(lái)源：公開(kāi)數(shù)據(jù)、與出版商的合作數(shù)據(jù)以及我們支付人力標(biāo)注的特定數(shù)據(jù)。

5.關(guān)于OpenAI與Apple的合作關(guān)系

OpenAI的目標(biāo)是讓人工智能來(lái)覆蓋盡可能多的用戶。OpenAI將在接下來(lái)的幾個(gè)月里與Apple密切合作。

6.關(guān)于數(shù)據(jù)隱私

對(duì)于OpenAI的用戶和客戶，我們不會(huì)在未經(jīng)允許的情況下使用他們的數(shù)據(jù)來(lái)訓(xùn)練我們的模型。

 

穆拉蒂表示，與Apple的合作是OpenAI的一個(gè)重要里程碑，目標(biāo)是讓人工智能覆蓋更多用戶，通過(guò)在Apple設(shè)備上內(nèi)置GPT技術(shù)，使用戶無(wú)需更換設(shè)備即可享受智能服務(wù)。她強(qiáng)調(diào)，接下來(lái)的幾個(gè)月里，OpenAI將與Apple密切合作，共同確定產(chǎn)品細(xì)節(jié)，并在適當(dāng)時(shí)機(jī)與公眾分享更多信息。

在產(chǎn)品整合方面，穆拉蒂提到，希望將正在開(kāi)發(fā)中的模型能力、多模態(tài)性和互動(dòng)性引入Apple設(shè)備，這將是人工智能領(lǐng)域的一次重大突破。她認(rèn)為，這種進(jìn)步不僅限于模型能力的提升，還能讓信息傳遞和用戶互動(dòng)變得更加豐富和自然。

談及用戶數(shù)據(jù)隱私時(shí)，穆拉蒂明確表示，OpenAI不會(huì)在未經(jīng)用戶許可的情況下使用他們的數(shù)據(jù)來(lái)訓(xùn)練模型，強(qiáng)調(diào)了隱私和信任在合作伙伴關(guān)系中的重要性。

關(guān)于Sora的發(fā)布時(shí)間，穆拉蒂表示目前沒(méi)有公開(kāi)發(fā)布的時(shí)間表，OpenAI正在與內(nèi)容創(chuàng)作者合作，以識(shí)別如何使技術(shù)更加穩(wěn)定，并進(jìn)行大量的安全工作。她認(rèn)為，雖然Sora技術(shù)具有巨大的潛力，但其影響也很大，因此需要確保產(chǎn)品的適用性和安全性。

 

穆拉蒂在訪談中也提到了AGI的預(yù)測(cè)，她認(rèn)為AGI的定義會(huì)隨著技術(shù)的發(fā)展而不斷演變。她強(qiáng)調(diào)，評(píng)估人工智能的實(shí)際影響比單純?cè)u(píng)估技術(shù)進(jìn)步更為重要。她還提到：“在未來(lái)十年內(nèi)，我們將有超強(qiáng)的AI系統(tǒng)。”

穆拉蒂談到了圍繞OpenAI涉嫌在其人工智能模型中盜用斯嘉麗·約翰遜（Scarlett Johansson）的聲音的爭(zhēng)議，以及研究人員因擔(dān)心該公司將產(chǎn)品開(kāi)發(fā)置于安全考慮之上而高調(diào)離職的問(wèn)題。她強(qiáng)調(diào)OpenAI對(duì)人工智能開(kāi)發(fā)和部署的承諾，同時(shí)承認(rèn)需要提高透明度。

面對(duì)員工對(duì)公司安全的擔(dān)憂，穆拉蒂回應(yīng)稱OpenAI有許多安全團(tuán)隊(duì)，并且公司非常重視安全問(wèn)題。她提到，OpenAI從GPT-2時(shí)代就開(kāi)始研究虛假信息問(wèn)題，并一直非常開(kāi)放地討論這些問(wèn)題。

穆拉蒂承認(rèn)，ChatGPT因過(guò)于自由而受到批評(píng)，但她強(qiáng)調(diào)這種偏見(jiàn)是無(wú)意的，“我們一直非常注重減少模型行為中的偏見(jiàn)，我們正在努力減少這些偏見(jiàn)，”不過(guò)，穆拉蒂尚未說(shuō)明有關(guān)補(bǔ)救措施的具體細(xì)節(jié)。

對(duì)話還涉及了人工智能對(duì)教育的潛在影響，穆拉蒂表示：“如果教育能夠根據(jù)你的思維方式、文化規(guī)范和具體興趣進(jìn)行定制，這將極大地?cái)U(kuò)展知識(shí)和創(chuàng)造力的水平。”穆拉蒂認(rèn)為AI對(duì)教育的影響是巨大的，“能推動(dòng)人類知識(shí)的進(jìn)步，從而推動(dòng)整個(gè)文明的進(jìn)步”。

 

• 以下米拉·穆拉蒂與主持人對(duì)話以及觀眾問(wèn)答環(huán)節(jié)的節(jié)選：

主持人：

首先，我很想問(wèn)你關(guān)于與Apple合作的事。我們今天要談?wù)撘稽c(diǎn)這個(gè)話題。這個(gè)合作是在世界開(kāi)發(fā)者大會(huì)上與OpenAI達(dá)成的。從今年某個(gè)時(shí)候開(kāi)始，Apple的電腦、手機(jī)和iPad將內(nèi)置GPT，這顯然是一個(gè)巨大的事件。

Apple是第一次做這樣的事情，他們與許多人進(jìn)行了談判，可能會(huì)逐步包括其他人。我想從你的角度談?wù)勥@個(gè)合作是如何運(yùn)作的。我今天早些時(shí)候和蒂姆·庫(kù)克（Tim Cook）聊了一下他的觀點(diǎn)，現(xiàn)在我想聽(tīng)聽(tīng)你的看法。

米拉·穆拉蒂：

這是我們的一項(xiàng)重要里程碑。Apple是一家標(biāo)志性的消費(fèi)產(chǎn)品公司。我們的目標(biāo)是讓人工智能來(lái)覆蓋盡可能多的用戶。這是一個(gè)將ChatGPT帶給所有Apple用戶的絕佳機(jī)會(huì)，無(wú)需更換設(shè)備。我們將在接下來(lái)的幾個(gè)月里與他們密切合作，弄清楚產(chǎn)品方面的具體細(xì)節(jié)，到時(shí)候會(huì)和大家分享更多的內(nèi)容。

主持人：

如果你不介意的話，我們來(lái)聊一些更加具體的內(nèi)容。你目前具體在做什么？Apple顯然需要改進(jìn)Siri，因?yàn)樗浅Ｔ愀?。從你的角度?lái)看，你希望在與Apple的合作中實(shí)現(xiàn)什么目標(biāo)？

米拉·穆拉蒂：

我可以具體談?wù)劗a(chǎn)品整合的內(nèi)容。我們希望帶來(lái)的是真正開(kāi)發(fā)中的模型的能力、多模態(tài)性和互動(dòng)性，并將這些引入Apple設(shè)備。

這是我們?cè)谌斯ぶ悄茴I(lǐng)域的一次重大突破，特別是在模型與用戶之間的交互方式以及模型所展現(xiàn)出的多樣化功能上，實(shí)現(xiàn)了前所未有的飛躍。這種進(jìn)步不僅僅局限于模型能力的提升。

這非常有意義，因?yàn)槠駷橹?，我們與設(shè)備的互動(dòng)主要還是通過(guò)文本。而現(xiàn)在，這是一個(gè)極好的機(jī)會(huì)，能讓信息的傳遞和我們之間的互動(dòng)變得更加豐富和自然，同時(shí)也極大地減少了互動(dòng)過(guò)程中的限制。

主持人：

當(dāng)用戶向OpenAI發(fā)送請(qǐng)求時(shí)，這些請(qǐng)求信息不會(huì)被保存下來(lái)，同時(shí)用戶的IP地址也會(huì)被隱藏。這對(duì)于Apple用戶來(lái)說(shuō)，無(wú)疑是一個(gè)重要的好消息。那么，這個(gè)過(guò)程是如何運(yùn)作的呢？你們是否仍然可以使用這些請(qǐng)求的數(shù)據(jù)來(lái)訓(xùn)練你的模型？

米拉·穆拉蒂：

不會(huì)的。對(duì)于我們的用戶和客戶，我們不會(huì)在未經(jīng)允許的情況下使用他們的數(shù)據(jù)來(lái)訓(xùn)練我們的模型。

主持人：

那么，在與像Apple這樣重視品牌聲譽(yù)的企業(yè)合作時(shí)，他們最為看重并關(guān)心的問(wèn)題有哪些呢？其中一項(xiàng)尤為關(guān)鍵的是，這些信息會(huì)被如何處理和利用，即關(guān)于數(shù)據(jù)流向及用途的擔(dān)憂。

米拉·穆拉蒂：

我認(rèn)為這是一個(gè)非常一致的合作伙伴關(guān)系。隱私和信任是關(guān)鍵，OpenAI的使命是確保我們構(gòu)建和部署的技術(shù)讓人們感到信任和有參與感。因此，這種合作關(guān)系是非常自然的，并且引領(lǐng)我們朝著期望的目標(biāo)邁進(jìn)。

關(guān)于虛假信息的問(wèn)題，這顯然是非常復(fù)雜的。我認(rèn)為這將是一個(gè)循序漸進(jìn)的過(guò)程，我們需要不斷嘗試，隨著時(shí)間推移慢慢調(diào)整。

主持人：

我知道與Apple合作必須嚴(yán)謹(jǐn)無(wú)誤，因?yàn)橐坏┏鲥e(cuò)，后果可能相當(dāng)棘手。我很好奇這次合作是如何開(kāi)始的？是山姆和庫(kù)克之間的一次對(duì)話促成的嗎？還是你也參與其中了呢？

米拉·穆拉蒂：

其實(shí)我不太記得是什么時(shí)候開(kāi)始的，但已經(jīng)醞釀了一段時(shí)間。

主持人：

你也在與其他公司進(jìn)行類似的合作談判。OpenAI已經(jīng)與新聞集團(tuán)和Vox Media等公司達(dá)成了內(nèi)容許可協(xié)議，這樣就減少了潛在的訴訟問(wèn)題。要是我的話，我可能不會(huì)考慮這種合作。

那么，你打算怎么說(shuō)服我，讓我同意你們使用我的信息呢？

米拉·穆拉蒂：

我知道你對(duì)此很關(guān)心，我可以告訴你我們?nèi)绾慰创龜?shù)據(jù)訓(xùn)練模型的問(wèn)題。我們主要有三個(gè)數(shù)據(jù)來(lái)源：公開(kāi)數(shù)據(jù)、與出版商的合作數(shù)據(jù)以及我們支付人力標(biāo)注的特定數(shù)據(jù)。

此外，我們還有用戶自愿允許我們使用的數(shù)據(jù)。關(guān)于出版商合作，我們關(guān)心的是信息的準(zhǔn)確性，用戶也非常重視這一點(diǎn)。

因此，我們與特定產(chǎn)品建立了一對(duì)一的合作關(guān)系，提供對(duì)用戶有價(jià)值的信息，同時(shí)也在探索不同的方式來(lái)補(bǔ)償內(nèi)容創(chuàng)作者，讓他們的數(shù)據(jù)在產(chǎn)品中展示或用于訓(xùn)練。

觀眾：

我是斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授，也是斯坦福人類中心AI研究所的聯(lián)合創(chuàng)始人。我想問(wèn)你一個(gè)關(guān)于數(shù)據(jù)的問(wèn)題。很多人認(rèn)為OpenAI的成功與數(shù)據(jù)密切相關(guān)。我們了解到你的公司從互聯(lián)網(wǎng)和其他來(lái)源獲得了大量數(shù)據(jù)。

那么你認(rèn)為數(shù)據(jù)與模型之間的關(guān)系是什么？是否簡(jiǎn)單地認(rèn)為輸入的數(shù)據(jù)越多，模型就越強(qiáng)大？還是需要花費(fèi)大量時(shí)間來(lái)整理不同類型的數(shù)據(jù)以使模型有效？最后，你如何解決對(duì)大量人類生成數(shù)據(jù)的需求與這些數(shù)據(jù)的所有權(quán)和權(quán)利問(wèn)題？

米拉·穆拉蒂：

關(guān)于數(shù)據(jù)和模型之間的關(guān)系，這其實(shí)是很多人對(duì)AI模型，特別是大型語(yǔ)言模型的誤解。開(kāi)發(fā)這些模型的人并不是預(yù)先編程它們做特定的事情，而是輸入大量數(shù)據(jù)。

理解這一點(diǎn)非常重要，因?yàn)樗故玖舜笮驼Z(yǔ)言模型的工作方式，結(jié)合神經(jīng)網(wǎng)絡(luò)架構(gòu)、大量數(shù)據(jù)和計(jì)算能力，產(chǎn)生了驚人的智能，并且隨著數(shù)據(jù)和計(jì)算能力的增加，這種能力會(huì)不斷提升。

當(dāng)然，我們需要做大量工作來(lái)使這些數(shù)據(jù)可供模型使用。但這就是它的基本結(jié)構(gòu)。我們正在考慮如何提供透明度以了解模型行為的工作原理。我們有一些工具可以讓人們對(duì)使用這些模型有信心，并讓他們有參與感。

主持人：

我覺(jué)得大家困惑的點(diǎn)在于，模型訓(xùn)練過(guò)程中到底用了哪些內(nèi)容，又排除了哪些。我記得在三月份，你接受了《華爾街日?qǐng)?bào)》喬安妮·斯特恩（Joanne Stern）的采訪，她問(wèn)你是否使用了YouTube、Instagram和Facebook的視頻來(lái)訓(xùn)練Sora（OpenAI旗下一款文生視頻模型），你當(dāng)時(shí)回答說(shuō)不知道。那么，關(guān)于是否使用了這些數(shù)據(jù)，你真的不清楚嗎？

米拉·穆拉蒂：

我當(dāng)時(shí)沒(méi)有很好地回答這個(gè)問(wèn)題，現(xiàn)在我可以回答一下。我不能具體告訴你數(shù)據(jù)的來(lái)源，但數(shù)據(jù)來(lái)自這三類：公開(kāi)數(shù)據(jù)、我們通過(guò)許可和與內(nèi)容提供商達(dá)成的交易支付的數(shù)據(jù)，以及用戶數(shù)據(jù)。

我不能告訴你具體的來(lái)源，因?yàn)檫@是商業(yè)機(jī)密，幫助我們保持競(jìng)爭(zhēng)力。但我可以告訴你數(shù)據(jù)的類別，它們是我之前提到的那幾種。

主持人：

唯一的區(qū)別是復(fù)雜性。因?yàn)樗麄兓旧鲜窃诳焖僮ト?nèi)容，而沒(méi)有給出內(nèi)容來(lái)源，任何媒體公司都會(huì)對(duì)此感到擔(dān)憂。

米拉·穆拉蒂：

是的，我們希望確保尊重內(nèi)容創(chuàng)作者，并正在嘗試補(bǔ)償他們。我們正在開(kāi)發(fā)一個(gè)工具，稱為內(nèi)容媒體管理器，這將讓我們更具體地識(shí)別數(shù)據(jù)的類型，就像唱片公司所做的那樣。

主持人：

這在過(guò)去是可以做到的。所以這并不是不可能的事情。說(shuō)到Sora，本周阿什頓·庫(kù)徹（Ashton Kutcher，好萊塢著名演員）告訴埃里克·施密特（Eric Schmidt，前谷歌CEO），他有一個(gè)測(cè)試版的Sora，非常驚人。

他還提到，這會(huì)讓門檻變得更高，因?yàn)槿藗兛赡軙?huì)想：“我為什么要看你的電影，而不直接看我腦海里的電影呢？”他的意思是，人們有能力在腦海中構(gòu)想電影情節(jié)，而AI能將這種構(gòu)想轉(zhuǎn)化為可觀看的電影。雖然現(xiàn)在聽(tīng)起來(lái)還有些粗糙，但這種想法是否有可能實(shí)現(xiàn)呢？

那么，Sora這款應(yīng)用大概什么時(shí)候會(huì)準(zhǔn)備好，向公眾發(fā)布呢？

米拉·穆拉蒂：

我們目前沒(méi)有Sora公開(kāi)發(fā)布的時(shí)間表。我們現(xiàn)在正在與一些內(nèi)容創(chuàng)作者合作，幫助我們識(shí)別如何使其更加穩(wěn)定。我們正在進(jìn)行大量的安全工作，但也在研究如何以有用的方式向公眾推出這項(xiàng)技術(shù)。這并不是一件簡(jiǎn)單的事情。

現(xiàn)在它更多的是一種技術(shù)。我們通常會(huì)與那些在特定領(lǐng)域有專長(zhǎng)的人合作，就像我們最初與DALL·E合作時(shí)一樣，他們幫助我們識(shí)別出一種感覺(jué)更有能力的界面，可以創(chuàng)造更多的項(xiàng)目?；旧蟻?lái)講，我們想擴(kuò)展Sora的創(chuàng)造力。

主持人：

關(guān)于影響，科技公司往往不關(guān)心影響，通常他們會(huì)發(fā)布一個(gè)測(cè)試版的軟件。如果他們發(fā)布的是一輛車，這種情況是絕不會(huì)允許發(fā)生的，因?yàn)樗麄儠?huì)被起訴到破產(chǎn)。

但很多科技公司發(fā)布的產(chǎn)品往往都是測(cè)試版，并強(qiáng)加給公眾。關(guān)于影響這一概念，你是否覺(jué)得作為首席技術(shù)官，即使你不能預(yù)見(jiàn)所有的影響，你是否尊重每項(xiàng)發(fā)明可能帶來(lái)的影響？

米拉·穆拉蒂：

這些影響會(huì)對(duì)我們和我們的社會(huì)產(chǎn)生影響。因此，我并不一定指的是監(jiān)管或法律方面的影響，而是道德上的責(zé)任感，確保我們做對(duì)。我對(duì)這項(xiàng)技術(shù)充滿樂(lè)觀。

它將允許我們做出驚人的事情。我對(duì)它在科學(xué)、教育和特別是醫(yī)療方面的潛力感到非常興奮。但每當(dāng)你有如此強(qiáng)大的東西，也會(huì)有潛在的災(zāi)難性風(fēng)險(xiǎn)。一直以來(lái)，都是這樣的情況。人類試圖放大其影響。

主持人：

我引用的一句話來(lái)自保羅·維利里奧（Paul Virilio）：“當(dāng)你發(fā)明了船時(shí)，你也發(fā)明了船難。”這是比船難更嚴(yán)重的可能性，對(duì)嗎？

米拉·穆拉蒂：

我不同意這個(gè)說(shuō)法。我的專業(yè)是工程學(xué)。我們的整個(gè)世界都是通過(guò)工程建造的。工程學(xué)就是風(fēng)險(xiǎn)。整個(gè)文明建立在工程實(shí)踐之上。我們的城市、橋梁，一切都如此。這總是伴隨著風(fēng)險(xiǎn)的。你通過(guò)責(zé)任和細(xì)致的工作來(lái)管理這些風(fēng)險(xiǎn)。

這不僅僅是開(kāi)發(fā)人員的責(zé)任。這是一種共同的責(zé)任。為了使其成為共同責(zé)任，你實(shí)際上需要給人們提供訪問(wèn)權(quán)限和工具，并與他們一起前進(jìn)，而不是在真空中建造不可訪問(wèn)的技術(shù)。

主持人：

我想多了解一下這個(gè)話題。你上個(gè)月宣布了ChatGPT-4的迭代更新。它是免費(fèi)的，對(duì)吧？

米拉·穆拉蒂：

確實(shí)如此。GPT-4o代表的是Omni-model，因?yàn)樗Y(jié)合了所有的模態(tài)：視覺(jué)、文本、音頻。這個(gè)模型的特別之處在于，它使與模型的互動(dòng)變得非常流暢自然，幾乎察覺(jué)不到延遲。

這是AI互動(dòng)上的巨大飛躍，與我們之前的版本有很大不同。我們希望將最新的功能免費(fèi)提供給所有用戶，讓大家了解這項(xiàng)技術(shù)的潛力和局限性。正如我之前所說(shuō)，通過(guò)實(shí)際體驗(yàn)，大家更容易理解技術(shù)的潛力和局限性。

主持人：

它就像是一道開(kāi)胃菜，讓大家期待ChatGPT-5。那么，ChatGPT-5有什么不同？是個(gè)巨大的飛躍還是逐步改進(jìn)？

米拉·穆拉蒂：

我們還不知道。其實(shí)我們還沒(méi)決定叫什么名字。下一代大模型將非常強(qiáng)大，我們可以期待像從GPT-3到GPT-4那樣的巨大飛躍，但具體細(xì)節(jié)還不確定。

主持人：

顯然，你參與了很多項(xiàng)目，我們也聊過(guò)很多。OpenAI內(nèi)部的路線圖預(yù)測(cè)，人類會(huì)在2027年實(shí)現(xiàn)AGI，這將是一個(gè)巨大的里程碑。解釋一下這個(gè)時(shí)間點(diǎn)的重要性。你們是否真的認(rèn)為會(huì)在那時(shí)實(shí)現(xiàn)AGI？

米拉·穆拉蒂：

AGI的定義因人而異。根據(jù)我們的章程，AGI是指在不同領(lǐng)域可以完成經(jīng)濟(jì)上有價(jià)值工作的系統(tǒng)。從我們目前看到的情況來(lái)看，智能的定義不斷變化。過(guò)去，我們用學(xué)術(shù)基準(zhǔn)測(cè)試系統(tǒng)的智能程度。然后，我們看考試成績(jī)。

當(dāng)我們達(dá)到了這些基準(zhǔn)，我們需要提出新的評(píng)估標(biāo)準(zhǔn)。這讓我們思考，在工作環(huán)境中如何評(píng)估智能？我們有面試、有實(shí)習(xí)等方式。因此，我預(yù)計(jì)這個(gè)定義會(huì)不斷演變。或許更重要的是評(píng)估和預(yù)測(cè)在現(xiàn)實(shí)世界中的影響，無(wú)論是社會(huì)影響還是經(jīng)濟(jì)影響。

主持人：

根據(jù)這個(gè)定義，OpenAI認(rèn)為何時(shí)會(huì)實(shí)現(xiàn)AGI？2027年這個(gè)數(shù)字準(zhǔn)確嗎？

米拉·穆拉蒂：

我會(huì)說(shuō)，在未來(lái)十年內(nèi)，我們將有超強(qiáng)的AI系統(tǒng)。

主持人：

但是人們擔(dān)心的是安全與產(chǎn)品之間的討論。OpenAI的創(chuàng)立有兩個(gè)目標(biāo)，一個(gè)是幫助人類，一個(gè)是追求巨大的經(jīng)濟(jì)利益。我認(rèn)為你可能介于兩者之間。

上周，13名現(xiàn)任和前任OpenAI和谷歌DeepMind員工聯(lián)名發(fā)表公開(kāi)信，呼吁公司允許他們警告關(guān)于先進(jìn)AI的風(fēng)險(xiǎn)。這并不新鮮，F(xiàn)acebook、谷歌和微軟的員工也曾簽署公開(kāi)信，無(wú)論是與高級(jí)部門合作等。

但在這個(gè)案例中，員工們說(shuō)，“廣泛的保密協(xié)議阻止我們表達(dá)擔(dān)憂，而公司可能未能解決這些問(wèn)題。”基本上就是說(shuō)，我們不能告訴你風(fēng)險(xiǎn)是什么，但大家可能會(huì)遭遇災(zāi)難。對(duì)此你有什么回應(yīng)？人們擔(dān)心遭到報(bào)復(fù)，而我不想談?wù)摴善钡膯?wèn)題，因?yàn)槲抑滥銈兊狼覆⒓m正了這一點(diǎn)。但如果他們有擔(dān)憂，難道不應(yīng)該讓他們表達(dá)嗎？我知道不同人有不同的看法。

米拉·穆拉蒂：

當(dāng)然，我們認(rèn)為持不同觀點(diǎn)非常重要，能夠公開(kāi)表達(dá)這些擔(dān)憂并討論安全問(wèn)題也非常重要。自O(shè)penAI成立以來(lái)，我們一直非常開(kāi)放地討論虛假信息問(wèn)題，從GPT-2時(shí)代開(kāi)始，這就是我們?cè)缙谘芯康膯?wèn)題之一。

過(guò)去幾年，技術(shù)進(jìn)步令人難以置信，速度之快超乎預(yù)期，這也增加了人們對(duì)社會(huì)準(zhǔn)備情況的普遍焦慮。我們看到科學(xué)的發(fā)展方向，所以可以理解人們對(duì)未來(lái)的擔(dān)憂。

具體來(lái)說(shuō)，我們?cè)贠penAI所做的工作和部署這些模型的方式，我認(rèn)為我們有一支出色的團(tuán)隊(duì)，我們非常安全地部署了這些模型，我對(duì)此感到非常自豪。鑒于技術(shù)進(jìn)步的速度和我們自身的進(jìn)展，專注于安全、保護(hù)框架非常重要，我們需要考慮如何看待前沿模型訓(xùn)練和部署的風(fēng)險(xiǎn)。

主持人：

你提到過(guò)這些問(wèn)題。我好奇的是，為什么OpenAI需要簽訂保密協(xié)議，以及實(shí)施比其他公司更嚴(yán)格的規(guī)定呢？公開(kāi)信是在一系列高調(diào)離職后發(fā)布的，包括楊·萊克（Jan Leike）和伊爾亞·蘇茨克維（Ilya Sutskever）。他們領(lǐng)導(dǎo)了對(duì)齊團(tuán)隊(duì)，負(fù)責(zé)安全工作。

伊爾亞是OpenAI的聯(lián)合創(chuàng)始人，他與其他三位董事一起罷免了CEO，但萊克在X上發(fā)布了這條消息：“在過(guò)去的一年里，安全文化和流程被光鮮的新產(chǎn)品所取代了。”

這是外界對(duì)OpenAI持續(xù)不斷的批評(píng)之一。你認(rèn)為這個(gè)批評(píng)公正嗎？為什么？如果你確實(shí)非常重視安全，但外界卻認(rèn)為你不夠重視，你會(huì)如何回應(yīng)這樣的批評(píng)呢？

米拉·穆拉蒂：

首先，對(duì)齊團(tuán)隊(duì)不是唯一負(fù)責(zé)安全的團(tuán)隊(duì)。OpenAI有許多安全團(tuán)隊(duì)，對(duì)齊團(tuán)隊(duì)是其中一個(gè)非常重要的安全團(tuán)隊(duì)，但只是其中之一。

我們有很多人在OpenAI從事安全工作，我可以稍后詳細(xì)解釋。萊克是一位了不起的研究人員和同事，我與他共事了三年，非常尊重他，他離開(kāi)OpenAI后加入了Anthropic，這是我們的一個(gè)競(jìng)爭(zhēng)對(duì)手。

我認(rèn)為我們確實(shí)需要更加專注于安全、保護(hù)和監(jiān)管參與，鑒于我們預(yù)期領(lǐng)域內(nèi)的進(jìn)展。但我不同意我們可能將產(chǎn)品放在安全之前的觀點(diǎn)。你為什么認(rèn)為他們這么說(shuō)？

主持人：

因?yàn)檫@些是和你共事的人？

米拉·穆拉蒂：

我認(rèn)為你需要問(wèn)他們，但我認(rèn)為許多人認(rèn)為安全和能力是分開(kāi)的。我認(rèn)為整個(gè)行業(yè)需要向更加嚴(yán)格的安全學(xué)科發(fā)展。我們有安全系統(tǒng)，有嚴(yán)格的操作安全紀(jì)律，這包括許多方面，不僅是操作紀(jì)律，還有我們今天產(chǎn)品和部署的安全性，例如有害偏見(jiàn)、虛假信息、錯(cuò)誤信息分類器等。

主持人：

但這在OpenAI中一直存在。我認(rèn)為因?yàn)槟銈兪钱?dāng)前的領(lǐng)先公司，所以這個(gè)問(wèn)題更加突出。但人們擔(dān)心的是安全問(wèn)題，OpenAI的創(chuàng)立目的之一就是確保安全。

上周，有13名現(xiàn)任和前任OpenAI和谷歌DeepMind員工聯(lián)名發(fā)表公開(kāi)信，呼吁公司允許他們警告關(guān)于先進(jìn)AI的風(fēng)險(xiǎn)。這并不新鮮，但在這種情況下，員工們說(shuō)，“廣泛的保密協(xié)議阻止我們表達(dá)擔(dān)憂，而公司可能未能解決這些問(wèn)題。”

你對(duì)此有什么回應(yīng)？人們擔(dān)心發(fā)聲會(huì)遭到報(bào)復(fù)，而我不想談?wù)摴善钡膯?wèn)題，因?yàn)槲抑滥銈兊狼覆⒓m正了這一點(diǎn)。但如果他們有擔(dān)憂，難道不應(yīng)該讓他們表達(dá)嗎？我知道不同人有不同的看法。

米拉·穆拉蒂：

當(dāng)然，我們認(rèn)為持不同觀點(diǎn)非常重要，能夠公開(kāi)表達(dá)這些擔(dān)憂并討論安全問(wèn)題也非常重要。自O(shè)penAI成立以來(lái)，我們一直非常開(kāi)放地討論虛假信息的問(wèn)題，從GPT-2時(shí)代開(kāi)始，這就是我們?cè)缙谘芯康膯?wèn)題之一。

過(guò)去幾年，技術(shù)進(jìn)步令人難以置信，速度之快超乎預(yù)期，這也增加了人們對(duì)社會(huì)準(zhǔn)備情況的普遍焦慮。我們看到科學(xué)的發(fā)展方向，所以可以理解人們對(duì)未來(lái)的擔(dān)憂。

具體來(lái)說(shuō)，我們?cè)贠penAI所做的工作和部署這些模型的方式，我認(rèn)為我們有一支出色的團(tuán)隊(duì)，我們非常安全地部署了這些模型，我對(duì)此感到非常自豪。鑒于技術(shù)進(jìn)步的速度和我們自身的進(jìn)展，專注于安全、保護(hù)框架非常重要，我們需要考慮如何看待前沿模型訓(xùn)練和部署的風(fēng)險(xiǎn)。

主持人：

對(duì)于這種情況，你打算如何應(yīng)對(duì)呢？我能理解這種變化，畢竟在谷歌、微軟和亞馬遜的早期階段都經(jīng)歷過(guò)類似的情況。隨著公司的成長(zhǎng)，很多事情都會(huì)發(fā)生變化。谷歌早期也是一團(tuán)亂麻，F(xiàn)acebook也換過(guò)不少首席運(yùn)營(yíng)官，多得我都數(shù)不清了。很多人都經(jīng)歷過(guò)這樣的階段，所以這是很正常的。但對(duì)于山姆這種情況，你打算如何應(yīng)對(duì)呢？

例如，他投資了一些外國(guó)公司，一些公司與OpenAI有業(yè)務(wù)往來(lái)。他投資了3.75億美元在一家名為Helion的能源公司，這是一個(gè)很酷的公司，他們目前正在與OpenAI談?wù)摯罅康碾娏π枨蟆１娝苤?，?jì)算需要大量電力。你每天是如何與他打交道的？你如何看待這種關(guān)系？你在哪些方面會(huì)提出反對(duì)意見(jiàn)？

米拉·穆拉蒂：

我一直在提出反對(duì)意見(jiàn)。我認(rèn)為這是正常的，特別是在我們所做的工作中。山姆會(huì)對(duì)團(tuán)隊(duì)提出很高的要求，我認(rèn)為這是好的。有遠(yuǎn)大的抱負(fù)，挑戰(zhàn)我們的極限是很重要的。當(dāng)我覺(jué)得事情超出界限時(shí)，我會(huì)提出反對(duì)意見(jiàn)。這就是我們六年來(lái)的合作關(guān)系，我認(rèn)為這種關(guān)系是有成效的。你需要能夠提出反對(duì)意見(jiàn)。

主持人：

你能舉一個(gè)例子嗎？比如，斯嘉麗·約翰遜的例子。我知道你和山姆在ChatGPT的音色這塊工作上，是合作完成的，對(duì)吧？

米拉·穆拉蒂：

是的，我們有很強(qiáng)的合作關(guān)系。但選擇聲音并不是我們的優(yōu)先事項(xiàng)之一，不是我們共同工作的內(nèi)容。我在這方面做了決策，但有山姆他自己的聯(lián)系。在我選擇了Sky之后，他聯(lián)系了斯嘉麗·約翰遜。我們沒(méi)有討論這個(gè)具體的決定，這是很不幸的。

主持人：

所以他是單獨(dú)行動(dòng)的。

米拉·穆拉蒂：

他有自己的聯(lián)系，我們?cè)谶@件事上沒(méi)有完全協(xié)調(diào)一致。

主持人：

你覺(jué)得這在很多方面很有趣，特別是因?yàn)殡娪昂退耐莆?。但我認(rèn)為這是OpenAI的一個(gè)錯(cuò)誤，因?yàn)槿藗儠?huì)覺(jué)得你們?cè)谕蹈`，即使你們沒(méi)有偷她的聲音，山姆看起來(lái)就像是《小美人魚(yú)》里的烏蘇拉，偷走了她的聲音。即使事實(shí)并非如此，但這種感覺(jué)是存在的。

那么，讓我最后談?wù)勥x舉和虛假信息，然后我們會(huì)接受觀眾的提問(wèn)。當(dāng)你考慮到AI對(duì)虛假信息的力量和即將到來(lái)的總統(tǒng)選舉時(shí)，是什么讓你感到擔(dān)憂？從你的角度來(lái)看，最糟糕的情況和最可能的負(fù)面結(jié)果是什么？

米拉·穆拉蒂：

首先，我們盡可能防止AI的濫用，包括提高信息檢測(cè)的準(zhǔn)確性，了解平臺(tái)上的情況并迅速采取行動(dòng)。第二是減少模型中的偏見(jiàn)因素。盡管ChatGPT因過(guò)于自由而受到批評(píng)，但這并非我們的本意，我們正不遺余力地降低模型中的偏見(jiàn)因素，并將持續(xù)努力。第三是我們希望在選民尋找投票信息時(shí)，模型可以指向正確的信息。這是我們?cè)谶x舉時(shí)關(guān)注的三件事。

關(guān)于虛假信息，編造信息是不可接受的。我們需要有非常可靠的方法讓人們了解他們?cè)诳吹氖蔷幵斓男畔?。我們已?jīng)做了一些事情。我們?yōu)閳D像實(shí)施了C2PA，它類似于護(hù)照，隨著內(nèi)容在不同平臺(tái)上傳播。我們還開(kāi)放了DALL·E的分類器，可以檢測(cè)圖像是否由DALL·E生成。

元數(shù)據(jù)和分類器是處理這個(gè)問(wèn)題的兩種技術(shù)方法。這是信息來(lái)源的證明，專門針對(duì)圖像。我們還在研究如何在文本中實(shí)現(xiàn)水印技術(shù)。

主持人：

我再問(wèn)你一個(gè)最后的問(wèn)題，然后我們會(huì)接受觀眾提問(wèn)。你今天得到了這個(gè)問(wèn)題的不同版本。你對(duì)這項(xiàng)技術(shù)非常樂(lè)觀，但我想讓你總結(jié)一下。如果你是個(gè)悲觀主義者，甚至有公司說(shuō)如果我不阻止山姆·阿爾特曼，他會(huì)毀滅人類，我覺(jué)得這有點(diǎn)夸張。

而其他人則認(rèn)為，無(wú)論如何，這將是最好的事情，我們都會(huì)在火星上享受美味的士力架。所以我希望你能告訴我，你最擔(dān)心的事情和最希望的事情，然后我們會(huì)接受觀眾提問(wèn)。

米拉·穆拉蒂：

首先，我不認(rèn)為這是一個(gè)預(yù)定的結(jié)果。我認(rèn)為我們?cè)跇?gòu)建和部署這項(xiàng)技術(shù)方面有很大的自主權(quán)。為了做好這件事，我們需要找到一種創(chuàng)造共同責(zé)任的方法。

我們今天談?wù)摿撕芏噙@個(gè)問(wèn)題，我確實(shí)認(rèn)為控制人們做特定的事情，是非常非?？膳碌?，意味著你可以控制社會(huì)朝特定方向發(fā)展。

就希望而言，我非常興奮的一件事是能夠在任何地方提供高質(zhì)量和免費(fèi)的教育。對(duì)我來(lái)說(shuō)，教育非常重要，它改變了我的生活。

今天我們有這么多工具可用，比如電和互聯(lián)網(wǎng)，很多工具都是可用的。但大多數(shù)人仍然是這種狀況——在一個(gè)教室里有一個(gè)老師，50個(gè)學(xué)生，每個(gè)人都學(xué)同樣的東西。想象一下，如果教育能夠根據(jù)你的思維方式、文化規(guī)范和具體興趣進(jìn)行定制，這將極大地?cái)U(kuò)展知識(shí)和創(chuàng)造力的水平。

如果我們能夠真正掌握這個(gè)，在很年輕的時(shí)候就學(xué)會(huì)如何學(xué)習(xí)，我認(rèn)為這非常強(qiáng)大，并能推動(dòng)人類知識(shí)的進(jìn)步，從而推動(dòng)整個(gè)文明的進(jìn)步。

觀眾：

ChatGPT的模型截止到2021年9月，你們依賴網(wǎng)絡(luò)搜索來(lái)補(bǔ)充數(shù)據(jù)。我輸入一個(gè)搜索請(qǐng)求時(shí)，確保你們從正確的參考資料中獲取正確答案？由于你們授權(quán)的受信任來(lái)源是商業(yè)秘密，我們?nèi)绾沃滥銈兲峁┑男畔⑹钦_的？

米拉·穆拉蒂：

實(shí)際上，有趣的是，ChatGPT項(xiàng)目最初是一個(gè)關(guān)于真實(shí)性的研究項(xiàng)目。我們希望能夠表達(dá)不確定性，并希望能夠在大型語(yǔ)言模型中引用信息，然后它轉(zhuǎn)變成了不同的研究項(xiàng)目。

所以，我們今天在平臺(tái)上所做的事情，我們有瀏覽器和工具，我們引入了工具和瀏覽功能，可以查找內(nèi)容，我們也在與出版商合作，以便將新聞和額外內(nèi)容帶到平臺(tái)上，提高準(zhǔn)確性。

我們正在著力解決大模型編造虛假信息的問(wèn)題，這顯然是大型語(yǔ)言模型的一個(gè)主要問(wèn)題，但其出現(xiàn)的頻率正在逐步降低。我認(rèn)為這類問(wèn)題不會(huì)徹底消失，但隨著模型變得更聰明，我們有理由相信它們的表現(xiàn)會(huì)越來(lái)越好，我們應(yīng)該期待它們輸出的內(nèi)容也會(huì)更加貼近真實(shí)情況，不會(huì)編造虛假信息。虛假信息問(wèn)題非常復(fù)雜，我們正在努力探索解決之道，以確保信息的真實(shí)性和準(zhǔn)確性。

我們希望信息來(lái)源盡可能廣泛，同時(shí)還需要考慮產(chǎn)品的應(yīng)用場(chǎng)景，不同的應(yīng)用場(chǎng)景會(huì)有所不同。

每日經(jīng)濟(jì)新聞綜合自公開(kāi)消息