每經(jīng)記者 文巧    每經(jīng)編輯 高涵    

圖片來源：視覺中國

當(dāng)?shù)貢r間3月9日，據(jù)德國科技媒體報道，在一場名為“AI in Focus - Digital Kickoff”的活動上，微軟德國公司的首席技術(shù)官安德烈亞斯•布勞恩（Andreas Braun）透露了一個重磅消息——GPT-4將于下周正式推出，并提到了一個關(guān)鍵細(xì)節(jié)，GPT-4將是多模態(tài)的。

語言模型的多模態(tài)意味著什么？基本上，這個模型可以管理不同語言數(shù)據(jù)的輸入和輸出，也能夠同時輸出文本、圖像甚至視頻，而目前的ChatGPT版本只能生成文本。正如布勞恩所說，“GPT-4將是一個多模態(tài)模型，它會提供完全不同的可能性——例如視頻。”

據(jù)外媒分析，如果將這種可能性（多模態(tài)）轉(zhuǎn)移到ChatGPT上，用戶可以用西班牙語提出請求，但生成的文本是英文的。顯然，這一功能對翻譯工具也有很大幫助。

布勞恩將大型語言模型稱為一個“游戲規(guī)則改變者”，這項技術(shù)已經(jīng)發(fā)展到基本上“適用于所有語言”。借助多模態(tài)，微軟（和OpenAI）將使模型變得更全面。

值得注意的是，百度的類ChatGPT產(chǎn)品發(fā)布也進(jìn)入倒計時，預(yù)計將于3月16日（下周四）推出“文心一言”。這意味著，下周，“文心一言”將與GPT-4正面對決。

《每日經(jīng)濟新聞》記者注意到，此前，有傳聞稱GPT-4模型擁有多達(dá)100萬億的參數(shù)。不過，在此前接受外媒采訪時，OpenAI首席執(zhí)行官薩姆•阿特曼（Sam Altman）曾進(jìn)行辟謠，稱這個傳言為“徹頭徹尾的胡說八道”。

“GPT-4有一座‘謠言工廠’，這很荒謬。我不知道這一切是從哪里來的，”阿特曼說道， “人們期待我們已經(jīng)擁有真正的通用人工智能，但事實是我們還并沒有。”

在此前被問及GPT-4的發(fā)布時間時，阿特曼并未回應(yīng)具體的時間，但他表示，“當(dāng)我們有信心可以安全和負(fù)責(zé)任地做到這一點時，它會在某個時候出現(xiàn)。”隨著GPT-4即將于下周公布的消息曝出，這意味著，OpenAI已經(jīng)對此有了足夠多的信心。

在9日的活動上，布勞恩并未透露更多GPT-4的細(xì)節(jié)，而目前OpenAI和微軟也仍未公布有關(guān)GPT-4的細(xì)節(jié)信息。根據(jù)已有信息，外媒對GPT-4的模型參數(shù)和性能等方面做了預(yù)測。

尺寸

根據(jù)此前阿特曼的說法，GPT-4不會比GPT-3大很多。因此模型大小將不會是GPT-4的一個顯著特征，預(yù)計GPT-4大約將有1750億~2800億個參數(shù)，或與Deepmind的Gopher模型類似。值得注意的是，參數(shù)大并不代表性能更高。阿特曼此前曾表示，公司正專注于讓更小的模型表現(xiàn)得更好。

最優(yōu)性

與GPT-3相比，GPT-4需要更多的算力。該模型在參數(shù)化和規(guī)模理論上，將實施更新的優(yōu)化性見解。

稀疏性（指模型具有非常大的容量，但只有模型用于給定任務(wù)、樣本或標(biāo)記的某些部分被激活。這樣，能夠顯著增加模型的容量和能力，而不必增加計算量。）

GPT-4 將是一個密集模型，這意味著所有參數(shù)都將用于處理任何給定的輸入，這一點上遵循GPT-2和GPT-3設(shè)定的趨勢。

對齊（指引導(dǎo)AI系統(tǒng)的行為，使其符合設(shè)計者的利益和預(yù)期目標(biāo)。）

GPT-4 將比GPT-3更接近用戶的利益，它將從InstructGPT中學(xué)到的東西集合在一起，InstructGPT根據(jù)用戶的反饋數(shù)據(jù)進(jìn)行訓(xùn)練。

封面圖片來源：視覺中國