每經(jīng)編輯 杜宇

4日，7名OpenAI前員工、4名現(xiàn)任匿名員工和谷歌DeepMind前任與現(xiàn)任員工發(fā)布公開(kāi)信，警告商業(yè)公司競(jìng)相開(kāi)發(fā)人工智能產(chǎn)品存在風(fēng)險(xiǎn)，該行業(yè)缺乏足夠的監(jiān)管，并可能對(duì)吹哨人打擊報(bào)復(fù)。

公開(kāi)信刊載在righttowarn.ai網(wǎng)站上，網(wǎng)站域名和信件標(biāo)題都在捍衛(wèi)這些頂尖AI公司員工《對(duì)先進(jìn)人工智能發(fā)出警告的權(quán)利》，呼吁對(duì)AI行業(yè)進(jìn)行全面改革，包括提高透明度和保護(hù)吹哨人。

信件稱(chēng)，人工智能技術(shù)有潛力為人類(lèi)帶來(lái)前所未有的利益，但也存在嚴(yán)重風(fēng)險(xiǎn)，包括進(jìn)一步加劇現(xiàn)有的不平等、操縱和誤導(dǎo)信息，以及失去對(duì)自主人工智能系統(tǒng)的控制，可能導(dǎo)致人類(lèi)滅絕。

圖片來(lái)源：righttowarn.ai網(wǎng)站

信件隨即列出OpenAI、谷歌人工智能實(shí)驗(yàn)室Google DeepMind、谷歌和亞馬遜支持的AI初創(chuàng)公司Anthropic等官網(wǎng)，以及英美等國(guó)政府網(wǎng)站和一些人工智能專(zhuān)家都“已承認(rèn)存在這些風(fēng)險(xiǎn)”。

公開(kāi)信稱(chēng)，原本希望在科學(xué)界、政策制定者和公眾的充分指導(dǎo)下，上述先進(jìn)AI系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)能夠得到充分緩解，但人工智能公司有強(qiáng)烈的經(jīng)濟(jì)動(dòng)機(jī)來(lái)逃避有效監(jiān)督：

“人工智能公司掌握著大量非公開(kāi)信息，包括其系統(tǒng)的能力和局限性、保護(hù)措施的充分性，以及不同類(lèi)型傷害的風(fēng)險(xiǎn)水平。但它們目前只有很弱的義務(wù)向政府分享部分信息，對(duì)公民社會(huì)則沒(méi)有任何分享義務(wù)。我們認(rèn)為，不能指望它們（注：商業(yè)公司）自愿分享這些信息。”

信件還稱(chēng)，AI公司們與員工簽署了廣泛的保密協(xié)議，與離職員工簽署了不能借由披露AI風(fēng)險(xiǎn)而“對(duì)公司進(jìn)行貶低批評(píng)”的嚴(yán)苛條款，整個(gè)行業(yè)發(fā)生過(guò)對(duì)吹哨人各種形式的報(bào)復(fù)案件。

因此，公開(kāi)信要求OpenAI及所有人工智能公司都不得簽訂或執(zhí)行避免批評(píng)AI風(fēng)險(xiǎn)的保密協(xié)議，不能通過(guò)妨礙揭露AI風(fēng)險(xiǎn)吹哨人的既得經(jīng)濟(jì)利益來(lái)打擊報(bào)復(fù)，而且要為現(xiàn)任和前任員工提供“可驗(yàn)證的匿名流程”，以便向公司董事會(huì)、監(jiān)管機(jī)構(gòu)和具有相關(guān)專(zhuān)業(yè)知識(shí)的獨(dú)立組織提出與AI風(fēng)險(xiǎn)相關(guān)的擔(dān)憂(yōu)，前提是吹哨人需要對(duì)公司的商業(yè)機(jī)密和其他知識(shí)產(chǎn)權(quán)利益進(jìn)行適當(dāng)保護(hù)。

公開(kāi)信的簽署者之一、今年4月從OpenAI人工智能治理崗位離職的Daniel Kokotajlo指出，辭職是因?yàn)?ldquo;對(duì)OpenAI能否負(fù)責(zé)任地行事失去了信心”。他稱(chēng)OpenAI的人工智能系統(tǒng)已經(jīng)接近人類(lèi)智能水平，通用人工智能AGI有50%的可能性在2027年就會(huì)問(wèn)世，而不是此前預(yù)測(cè)的2050年：

“世界還沒(méi)有準(zhǔn)備好（迎接如此高級(jí)的AI智能），我們也沒(méi)有準(zhǔn)備好，我擔(dān)心（這些商業(yè)公司）將不管不顧地一意孤行，并為自己的行為尋找借口。先進(jìn)的人工智能毀滅人類(lèi)或?qū)θ祟?lèi)造成災(zāi)難性傷害的可能性高達(dá)70%。”

圖片來(lái)源：視覺(jué)中國(guó)

另?yè)?jù)參考消息，沙特阿拉伯《阿拉伯新聞》日?qǐng)?bào)網(wǎng)站5月26日刊登題為《全球人工智能討論必須在關(guān)注機(jī)遇的同時(shí)關(guān)注風(fēng)險(xiǎn)》的文章，英國(guó)倫敦政治經(jīng)濟(jì)學(xué)院國(guó)際事務(wù)、外交和重大戰(zhàn)略研究中心研究員安德魯·哈蒙德表示，目前，人工智能帶來(lái)的巨大經(jīng)濟(jì)機(jī)遇令市場(chǎng)興奮不已。許多投資者認(rèn)為，這項(xiàng)新興技術(shù)將在未來(lái)幾年大幅提高生產(chǎn)率并重塑全球經(jīng)濟(jì)。

然而，人工智能的風(fēng)險(xiǎn)也必須成為全球討論的一個(gè)關(guān)鍵點(diǎn)。著名計(jì)算機(jī)科學(xué)家杰弗里·欣頓斷言，這項(xiàng)技術(shù)對(duì)人類(lèi)構(gòu)成的威脅可能比氣候變化“更為緊迫”。

埃隆·馬斯克等關(guān)鍵商業(yè)領(lǐng)袖也發(fā)出警告，呼吁立即暫停某些系統(tǒng)的開(kāi)發(fā)。這位特斯拉創(chuàng)始人經(jīng)常警告在他看來(lái)人工智能系統(tǒng)存在的危險(xiǎn)，甚至簽署了一封公開(kāi)信，警告“失控”的發(fā)展可能“對(duì)社會(huì)和人類(lèi)構(gòu)成巨大風(fēng)險(xiǎn)”。

這一話(huà)題是全球人工智能安全峰會(huì)的一個(gè)關(guān)鍵主題，該峰會(huì)由韓國(guó)總統(tǒng)尹錫悅主持，而去年英國(guó)主持召開(kāi)了一場(chǎng)類(lèi)似會(huì)議。這兩場(chǎng)會(huì)議都匯集了世界各國(guó)領(lǐng)導(dǎo)人、科技企業(yè)負(fù)責(zé)人和學(xué)者，討論如何以最佳方式監(jiān)管這種快速發(fā)展的技術(shù)，以及通過(guò)采用這種技術(shù)促進(jìn)更大程度的數(shù)字包容和可持續(xù)增長(zhǎng)。

雖然韓國(guó)、英國(guó)和法國(guó)(法國(guó)將在今年或明年舉辦第三次全球人工智能安全峰會(huì))正尋求在這一議程上引領(lǐng)國(guó)際社會(huì)，但它們并不孤單。中美官員最近在日內(nèi)瓦同樣就人工智能安全問(wèn)題舉行了會(huì)議。

在日內(nèi)瓦會(huì)議上，中美兩國(guó)高級(jí)官員討論了如何最大限度降低人工智能的風(fēng)險(xiǎn)，以及抓住這項(xiàng)技術(shù)帶來(lái)的機(jī)遇。會(huì)談更多關(guān)注如何在兩國(guó)各自努力推動(dòng)這一議程的背景下最大限度地管理風(fēng)險(xiǎn)。