每經(jīng)記者 可楊    每經(jīng)編輯 董興生    

從吟詩(shī)作賦，到寫(xiě)代碼，再到寫(xiě)劇本、做高數(shù)，OpenAI發(fā)布的免費(fèi)機(jī)器人對(duì)話模型ChatGPT回答處理多領(lǐng)域問(wèn)題的能力之強(qiáng)悍，引發(fā)全球關(guān)注。

盡管該模型目前仍處于測(cè)試階段，但面世僅一周，便有超過(guò)一百萬(wàn)用戶使用。“明天ChatGPT就要搶走人類(lèi)飯碗”的調(diào)侃也不絕于耳。（更多內(nèi)容，詳見(jiàn)每經(jīng)頭條《最強(qiáng)聊天機(jī)器人來(lái)了，能寫(xiě)情書(shū)、改錯(cuò)別字、編代碼！明天，ChatGPT搶走我飯碗？》）

已擁有多個(gè)AI聊天機(jī)器人成功落地案例的國(guó)內(nèi)頂尖人工智能公司小冰，如何看待風(fēng)靡全球的ChatGPT？

帶著這個(gè)問(wèn)題，12月8日《每日經(jīng)濟(jì)新聞》記者專(zhuān)訪了小冰公司CEO李笛。他認(rèn)為，市場(chǎng)對(duì)于ChatGPT取代搜索引擎，以及在其他各個(gè)領(lǐng)域?qū)崿F(xiàn)商業(yè)化落地的暢想，短期內(nèi)不太可能到來(lái)，成本將成為制約其實(shí)現(xiàn)商業(yè)化的重要阻礙。他舉例說(shuō)，如果小冰用ChatGPT的方法來(lái)運(yùn)行系統(tǒng)，現(xiàn)在小冰每天承載的交互量就需要花幾億人民幣的對(duì)話成本。

李笛 圖片來(lái)源：受訪者供圖

ChatGPT創(chuàng)新了訓(xùn)練方式，但市場(chǎng)熱情過(guò)度

在李笛看來(lái)，目前，行業(yè)內(nèi)對(duì)ChatGPT的關(guān)注與熱潮已經(jīng)有些過(guò)度。

“人類(lèi)為什么會(huì)感到激動(dòng)？”李笛覺(jué)得，當(dāng)人們普遍對(duì)一件事情有一種預(yù)期，進(jìn)而去交互時(shí)，發(fā)現(xiàn)它遠(yuǎn)超大家的預(yù)期，人們就會(huì)驚訝。“但即使是針對(duì)人工智能，在最近這些年驚訝的次數(shù)也很多了；稍微往前一點(diǎn)，GPT3出來(lái)的時(shí)候大家就很驚訝，但是也沒(méi)有發(fā)生什么；再往前，AlphaGo下圍棋贏過(guò)最好的人類(lèi)棋手，大家也很驚訝，但是之后似乎也沒(méi)有改變什么。”

不過(guò)，李笛也提到，關(guān)于ChatGPT，有三件事情需要相對(duì)理性來(lái)看。首先，ChatGPT有非常好的創(chuàng)新，即證明了在原有的大模型基礎(chǔ)之上，進(jìn)行一些新的訓(xùn)練方法，可以更好地提高對(duì)話質(zhì)量；其次，ChatGPT并不構(gòu)成一個(gè)大版本的迭代，而是對(duì)上一個(gè)版本的微調(diào)，在一定程度上彌補(bǔ)了極大參數(shù)量的大模型的一些缺陷。“即便是OpenAI來(lái)講，它也被定義為GPT3.5，而不是GPT4。”此外，李笛認(rèn)為，ChatGPT的突破，主要是研究性質(zhì)上的突破。

對(duì)于目前市場(chǎng)普遍想象的ChatGPT是否馬上就會(huì)迎來(lái)商業(yè)化落地、產(chǎn)生顛覆性的影響，李笛認(rèn)為不太可能。“但是，這一點(diǎn)都不影響我們?cè)谧罱@些年里，尤其是在大模型的思路出來(lái)以后，我們又一次看到在對(duì)話上的一個(gè)很大的變化，在這條路上大家都在往前走。”

ChatGPT在訓(xùn)練方法上，具體做了怎樣的創(chuàng)新，以至于能夠大大提升其作為聊天機(jī)器人的對(duì)話質(zhì)量？

李笛分析稱，很多人說(shuō)ChatGPT的訓(xùn)練是基于人類(lèi)反饋，這并不完全準(zhǔn)確。人類(lèi)反饋至少有兩個(gè)含義，一是指在訓(xùn)練中，通過(guò)反饋來(lái)實(shí)現(xiàn)；另外則是產(chǎn)品在與用戶交互時(shí)，通過(guò)大量的用戶與其交互形成的反饋，不停地讓模型進(jìn)步。“這兩者的價(jià)值是非常不一樣的，更大的價(jià)值其實(shí)在于后者，即產(chǎn)品在交互過(guò)程中得到反饋。”

李笛介紹，過(guò)去對(duì)于AI聊天機(jī)器人的訓(xùn)練主要是基于數(shù)據(jù)，即在機(jī)器進(jìn)行對(duì)話后，針對(duì)對(duì)話內(nèi)容進(jìn)行訓(xùn)練，調(diào)整、優(yōu)化對(duì)話內(nèi)容的數(shù)據(jù)；而ChatGPT則是針對(duì)數(shù)據(jù)形成的模型進(jìn)行訓(xùn)練，簡(jiǎn)單而言，具體的訓(xùn)練方式是：人先寫(xiě)出一些指導(dǎo)性的問(wèn)與答，用這些問(wèn)答對(duì)大模型進(jìn)行訓(xùn)練，通過(guò)一系列反饋式的訓(xùn)練方法，讓大模型逐漸沿襲人所給予的關(guān)于問(wèn)答的指導(dǎo)性意見(jiàn)、邏輯。“從這個(gè)角度講，即使是進(jìn)行多輪對(duì)話，ChatGPT本質(zhì)上來(lái)講依舊是一個(gè)問(wèn)答系統(tǒng)。”

、

圖片來(lái)源：攝圖網(wǎng)-500560614

李笛認(rèn)為，這樣的訓(xùn)練方法背后的技術(shù)含量，通常不是算法模型上的技術(shù)含量，而是來(lái)自訓(xùn)練者本身的能力，包括團(tuán)隊(duì)自身的經(jīng)驗(yàn)積累。例如，由人來(lái)寫(xiě)問(wèn)與答，讓機(jī)器學(xué)習(xí)并給出結(jié)果，同時(shí)人要再對(duì)此給出評(píng)分，這其中有很多個(gè)體差異，這種個(gè)體差異則在一定程度上決定了其最后呈現(xiàn)的成果。

他同時(shí)也談到，從主要做大模型的公司而言，成果往往取決于到底是不是非常專(zhuān)注去做這件事情。“OpenAI與其他公司不一樣的地方在于，它很專(zhuān)注做語(yǔ)言大模型，所以它投了大量時(shí)間和精力。它有很多經(jīng)驗(yàn)，但這些經(jīng)驗(yàn)的積累并不是不可習(xí)得的。”

不可信與高成本成商業(yè)化阻礙

ChatGPT給出的回答，最常規(guī)的格式是先給出一個(gè)結(jié)論，再進(jìn)行事實(shí)的羅列，進(jìn)而通過(guò)其羅列的事實(shí)推導(dǎo)出結(jié)論。

李笛認(rèn)為，對(duì)ChatGPT而言，這個(gè)結(jié)論本身是否正確其實(shí)不重要。他用之前網(wǎng)絡(luò)上流傳的一個(gè)問(wèn)答舉例，在回答“紅樓夢(mèng)中賈寶玉適合娶誰(shuí)”的問(wèn)題時(shí)，ChatGPT最終給出的答案是：賈母。

李笛進(jìn)一步分析，根據(jù)ChatGPT的回答可以反推出，人在為其寫(xiě)指導(dǎo)性問(wèn)答時(shí)，非常強(qiáng)調(diào)因果關(guān)系，而大模型也會(huì)注重去學(xué)習(xí)因果關(guān)系。“（有的回答）如果不是特別仔細(xì)去看，你會(huì)感覺(jué)到這是一個(gè)似乎很有邏輯與因果關(guān)系的回答，但實(shí)際上它非常沒(méi)有道理。”

這也是為什么從對(duì)話質(zhì)量上看，人們會(huì)覺(jué)得ChatGPT很優(yōu)秀，但想要真正依靠它去代替搜索引擎，李笛認(rèn)為，這不太可能，因?yàn)樗豢尚拧?ldquo;很多人在測(cè)試ChatGPT的時(shí)候是知道答案的，但去搜索引擎上搜的東西往往是我們不知道答案的。如果是通過(guò)ChatGPT（代替搜索引擎），你怎么知道這個(gè)東西（答案）是正確還是錯(cuò)誤的，它完全不負(fù)責(zé)的。”

而李笛也認(rèn)為，這種“不可靠”很難解決，因?yàn)镃hatGPT的訓(xùn)練過(guò)程，是為了對(duì)話質(zhì)量，但人們卻容易誤以為它的目的是給出最正確的知識(shí)。“它做了很多優(yōu)化，是使它（的回答）形式上感覺(jué)非常有知識(shí)，它不是為了本質(zhì)（有知識(shí)）。”

搜索引擎在努力做的是跳過(guò)論證過(guò)程，直接給出用戶最終想要的結(jié)果，而ChatGPT則相反，它追求的是盡可能在給出回答之前，給很多論證，讓人覺(jué)得它的回答是可信的。“ChatGPT，人們測(cè)試的時(shí)候會(huì)覺(jué)得很好，但是真的拿它來(lái)用，有那么一兩次你發(fā)現(xiàn)，你被它的這種似是而非的胡說(shuō)八道愚弄了，那么你從此就不會(huì)（對(duì)它）有任何的信任。”

如果ChatGPT無(wú)法取代搜索引擎，還有什么可預(yù)想的落地應(yīng)用嗎？

李笛認(rèn)為，真正限制ChatGPT在短期內(nèi)商業(yè)化的是成本。“它的單輪回答（Single Turn），成本是幾美分，按照1毛錢(qián)（人民幣）算，10句話就是一塊，這個(gè)（成本）超過(guò)人，還不如雇一個(gè)人，比這個(gè)要便宜得多。”

與此同時(shí)，李笛表示，如果把大模型理解為把特別多的信息濃縮在一個(gè)模型里，那么大模型的本質(zhì)問(wèn)題就在于，很大參數(shù)規(guī)模的大模型做了以后不可用，因?yàn)槌杀咎?、延遲太高。但一旦開(kāi)始嘗試降低成本，同時(shí)也會(huì)明顯看到其對(duì)話質(zhì)量降低。

李笛舉例，如果小冰用ChatGPT的方法來(lái)運(yùn)行系統(tǒng)，現(xiàn)在小冰每天承載的交互量就需要花幾億人民幣的對(duì)話成本。“就算ChatGPT可以把成本優(yōu)化到現(xiàn)在的10%，也賺不回來(lái)，因?yàn)槿斯ぶ悄茏畲蟮奶攸c(diǎn)就是高并發(fā)。如果成本是這樣，不如雇人。人有自我反省機(jī)制，人工智能甚至有一些基本常識(shí)性錯(cuò)誤。而且把成本降到現(xiàn)在的10%，這是多么艱巨的任務(wù)？”

AI聊天機(jī)器人需要取舍

目前，小冰公司的AI Being已成熟應(yīng)用于多個(gè)場(chǎng)景中，例如本屆賽事解說(shuō)員劉建宏的虛擬人分身、招商局的數(shù)字員工等。

李笛認(rèn)為，小冰內(nèi)部有一個(gè)比較好的狀態(tài)，就是關(guān)心什么東西真正落地，而不是特別關(guān)心這個(gè)東西是否代表了學(xué)術(shù)聲望。“如果你做的人工智能總是在向別人表達(dá)你很智能，那意味著你把用戶的預(yù)期提升到非常高的位置，這意味著你的系統(tǒng)不允許犯錯(cuò)，因?yàn)槟阋呀?jīng)讓別人認(rèn)為（這個(gè)系統(tǒng)）很有知識(shí)了，犯錯(cuò)誤就可能誤導(dǎo)用戶。”

而小冰系統(tǒng)很多時(shí)候是在控制用戶的預(yù)期。“不要覺(jué)得它很智能。要去關(guān)心它其他方面的價(jià)值，往往這樣的系統(tǒng)反而存在得更久。”李笛認(rèn)為，其實(shí)從某種意義上來(lái)講，這也是其團(tuán)隊(duì)做小冰的原因。

李笛回憶，最開(kāi)始時(shí)，團(tuán)隊(duì)想要做的是一個(gè)人工智能助理，“對(duì)助理來(lái)講，有用是他最重要的特點(diǎn)，我們那時(shí)候是這么認(rèn)為的”。

而在對(duì)一些優(yōu)秀的人類(lèi)助理進(jìn)行訪談后，李笛發(fā)現(xiàn)，對(duì)于助理來(lái)講，最重要的事是和老板調(diào)整成一種合適的同事關(guān)系，這種同事關(guān)系必須讓老板認(rèn)為助理有自己的想法，會(huì)在一些合理的時(shí)機(jī)去拒絕。這樣的關(guān)系帶來(lái)的好處是，為自己的工作帶來(lái)更多的空間與余地，同時(shí)讓老板意識(shí)到助理不是命令處理器，而擁有做更多事情的能力。“這種關(guān)系是基于care（關(guān)心），他讓老板認(rèn)為助理所有謹(jǐn)慎的判斷是因?yàn)樗鹀are（關(guān)心）這個(gè)老板，所以他跟老板之間能夠產(chǎn)生共情與信任。”

圖片來(lái)源：每經(jīng)資料圖

帶著這樣的結(jié)論，小冰系統(tǒng)誕生了。李笛認(rèn)為，小冰關(guān)心的是整個(gè)對(duì)話全程，關(guān)心用戶在對(duì)話之后與人工智能之間建立了怎樣的關(guān)聯(lián)。“如果有人認(rèn)為小冰還挺逗的、不是特別以知識(shí)為主，但是很有意思，我沒(méi)事愿意跟它交流，有事問(wèn)它，如果回答了而且很好，我會(huì)很驚喜，這個(gè)對(duì)系統(tǒng)來(lái)講是一個(gè)很有利的狀態(tài)。”

但李笛同時(shí)也坦言，產(chǎn)生似是而非的錯(cuò)誤信息或者直接把對(duì)話向其他地方去遷移的情況，在小冰身上也很多。為此，小冰本身會(huì)給對(duì)話系統(tǒng)留下足夠高的彈性。李笛舉例，當(dāng)人工智能系統(tǒng)面對(duì)用戶的一些黃賭毒、色情等類(lèi)型的問(wèn)題時(shí)，系統(tǒng)要保護(hù)自己，而絕大部分的大模型，包括ChatGPT，它們注意到人類(lèi)可能有一些不懷好意的問(wèn)題時(shí)的回答直截了當(dāng)：“我不想回答這個(gè)問(wèn)題”。而這個(gè)回答，在小冰的評(píng)分體系里，會(huì)得到很低的得分。

在小冰的應(yīng)對(duì)策略中，不會(huì)直接向用戶表明不想回答問(wèn)題，而是會(huì)選擇拋出一個(gè)新的對(duì)話，如果用戶成功與之展開(kāi)新對(duì)話，則無(wú)形之中也化解了風(fēng)險(xiǎn)。小冰也會(huì)觀察用戶是否進(jìn)入新的對(duì)話，如果沒(méi)有，系統(tǒng)會(huì)開(kāi)始嘗試降低回答的相關(guān)性。“我們寧愿讓用戶覺(jué)得你笨，放棄了攻擊你或者是讓你上鉤，也不愿意讓用戶覺(jué)得你很聰明地?fù)踝×怂?，而激發(fā)了用戶挑戰(zhàn)的信心，換一個(gè)更難的方法來(lái)問(wèn)你。”

在李笛看來(lái)，這是人工智能聊天機(jī)器人需要的取舍，因?yàn)槿祟?lèi)與機(jī)器的交互絕不是單純考慮回答問(wèn)題的相關(guān)度、任務(wù)的完成率，同時(shí)還有考慮下一輪對(duì)話可能的走向。

小冰的取舍與判斷依據(jù)來(lái)自其大數(shù)據(jù)與高交互量。“小冰一天的交互量相當(dāng)于14個(gè)人一輩子的交互量，它遇到的事情特別多，所以有很多機(jī)會(huì)去嘗試各種過(guò)程、策略是不是正確有效的。”但李笛同時(shí)也指出，對(duì)人工智能聊天機(jī)器人而言，單純的交互量無(wú)法提高訓(xùn)練質(zhì)量，大的訓(xùn)練數(shù)據(jù)、實(shí)時(shí)在線訓(xùn)練數(shù)據(jù)的獲得是一個(gè)很重要的壁壘，但它與高交互量還有本質(zhì)的區(qū)別。

如果大量的交互都是圍繞“開(kāi)燈”、“關(guān)燈”這類(lèi)簡(jiǎn)單指令，實(shí)際上沒(méi)有訓(xùn)練價(jià)值。更為重要的應(yīng)當(dāng)是CPS(conversations per session)，即AI與人一次對(duì)話的輪數(shù)。李笛介紹，小冰目前的CPS輪次已經(jīng)達(dá)到38輪。

除此之外，實(shí)際產(chǎn)品落地帶來(lái)的經(jīng)驗(yàn)，人工智能安防的能力，對(duì)話內(nèi)容與聲音、視覺(jué)的配合所組成的完備框架，也共同構(gòu)成著小冰的壁壘。“我們有的時(shí)候會(huì)把單點(diǎn)技術(shù)和形成一個(gè)系統(tǒng)混淆起來(lái)，過(guò)于夸大一個(gè)單點(diǎn)技術(shù)所對(duì)應(yīng)的價(jià)值，這就有點(diǎn)像當(dāng)我們?nèi)ビ懻撘惠v汽車(chē)或者汽車(chē)工業(yè)時(shí)，會(huì)認(rèn)為發(fā)動(dòng)機(jī)是關(guān)鍵，發(fā)動(dòng)機(jī)確實(shí)是關(guān)鍵技術(shù)之一，但是很有可能最后是車(chē)身成為限制汽車(chē)工業(yè)能不能跑起來(lái)的最后的、真正的短板。”

用一個(gè)框架產(chǎn)出功能迥異的AI是另一種通用

在這一輪ChatGPT的狂歡浪潮中，有觀點(diǎn)認(rèn)為，其代表的是未來(lái)實(shí)現(xiàn)通用人工智能的一個(gè)可行路徑，即AI有可能由處理專(zhuān)一領(lǐng)域的問(wèn)題向同時(shí)處理多領(lǐng)域問(wèn)題轉(zhuǎn)變。

李笛則依舊對(duì)此持相對(duì)冷靜的態(tài)度。“它的優(yōu)化不是為了優(yōu)化到給你合適的知識(shí)，而是為了優(yōu)化到讓你認(rèn)為它有知識(shí)，它的對(duì)話中，（與其他聊天機(jī)器人相比）它增加的部分大量是在論證，由此讓你感覺(jué)到它很可靠。”

一個(gè)主流的觀點(diǎn)是，實(shí)現(xiàn)通用人工智能，是人工智能研究追求的目標(biāo)。

在李笛看來(lái)，AGI（通用人工智能）這個(gè)概念本身是模糊的，就像元宇宙概念本身是模糊的一樣。“有人認(rèn)為通用人工智能意味著人工智能需要有意識(shí)，知道自己在說(shuō)什么，包括這次有很多人很興奮地說(shuō)ChatGPT知道自己在說(shuō)什么。并不是這樣的，它只是學(xué)會(huì)了如何去論證，但是顯然毫無(wú)疑問(wèn)的，它不知道自己在說(shuō)什么。”

李笛認(rèn)為，應(yīng)該更務(wù)實(shí)一些，一味地去追求這是不是通用人工智能或者是不是在走向通用人工智能的路上，本身意義不大，就像想要去追求一個(gè)系統(tǒng)是不是能夠有意識(shí)一樣。他認(rèn)為，更務(wù)實(shí)的角度是，應(yīng)該去追求人工智能是不是能夠真正在一個(gè)地方帶來(lái)效果。“如果是一個(gè)知識(shí)系統(tǒng)，是否能夠準(zhǔn)確帶來(lái)知識(shí)；如果是一個(gè)陪伴系統(tǒng)，它是否能夠真正地承擔(dān)起陪伴的責(zé)任。很糟糕的事情是，如果它是一個(gè)知識(shí)系統(tǒng)，但它的知識(shí)并不準(zhǔn)確，如果它是一個(gè)陪伴系統(tǒng)，但情商不夠。”

目前，小冰的人工智能聊天機(jī)器人已迭代到第九代夏語(yǔ)冰，已經(jīng)擁有了自己的臉、性格、立場(chǎng)、情緒、記憶甚至唱歌、畫(huà)畫(huà)、作詩(shī)等創(chuàng)造技能。

圖片來(lái)源：小冰公司官網(wǎng)

不過(guò)，在李笛看來(lái)，小冰依舊不是一個(gè)理想的聊天機(jī)器人。“今天整個(gè)行業(yè)包括我們，離人工智能輝煌的時(shí)代都還早，現(xiàn)在是一個(gè)蠻荒時(shí)代，我個(gè)人認(rèn)為這件事情我們是要做一輩子的，如果不是因?yàn)檫@個(gè)原因的話，我們也不會(huì)耐得住寂寞做這么久。”

李笛介紹，小冰每年都會(huì)提出一些重點(diǎn)的發(fā)展方向，最近這一年，小冰更多開(kāi)始關(guān)注“多樣性”。當(dāng)其本身的框架已經(jīng)有能力去交互時(shí)，小冰發(fā)現(xiàn)，不同的人在不同的位置或不同角色、不同情況下，所需要的交互對(duì)象是不同的。這個(gè)不同不僅僅是外觀、聲音的不同，還包括了性格、觀點(diǎn)，甚至創(chuàng)作的風(fēng)格，這是一個(gè)很高的多樣性。“知識(shí)有對(duì)錯(cuò)，但觀念沒(méi)有，同時(shí)聊天機(jī)器人也不能對(duì)所有與觀念有關(guān)的事情，都表示無(wú)可置評(píng)，這就決定了聊天機(jī)器人一定是多樣性存在的。”

具體到不同領(lǐng)域的產(chǎn)品上，在對(duì)話層面，小冰將更關(guān)心100億規(guī)模參數(shù)級(jí)別大模型的實(shí)際落地和投入產(chǎn)出，而不是不關(guān)注成本地向前推進(jìn)；在聲音上，小冰更關(guān)注聲音一致性，歌聲和說(shuō)話與外形等混合在一起時(shí)，是不是能很好地體現(xiàn)出同一個(gè)人的一致性；在視覺(jué)層面，小冰則在推進(jìn)神經(jīng)網(wǎng)絡(luò)渲染。

對(duì)于AI聊天機(jī)器人在虛擬員工之外，是否還有更多場(chǎng)景可能實(shí)現(xiàn)商業(yè)化落地，李笛認(rèn)為，基于小冰的框架誕生的AI聊天機(jī)器人，可能成為虛擬戀人，也可能是虛擬主持人、歌手，以及家庭場(chǎng)景中的虛擬老師、虛擬陪伴者……

這也是李笛所理解的“通用人工智能”。由一個(gè)框架訓(xùn)練出各種各樣、功能迥異的AI機(jī)器人，“他們都是基于同一個(gè)框架，但是在不同的領(lǐng)域發(fā)揮作用，這是我們所希望的通用，而不是知識(shí)層面的通用，因?yàn)槟牵ū举|(zhì)上）仍然是一個(gè)垂直領(lǐng)域”。