每經(jīng)記者 李孟林    每經(jīng)編輯 蘭素英    

據(jù)媒體3月2日報道，蘋果公司上周阻止了一款使用ChatGPT功能的電郵應用的更新，因為擔心其可能生成不適合青少年兒童的內(nèi)容。

如何避免AI做出違反倫理道德的回答一直是生成式AI面臨的挑戰(zhàn)。

而在上述報道的前一天，OpenAI推出了官方的ChatGPT應用程序接口（API），成本直降90%，且比ChatGPT及其背后的GPT-3.5 模型“更快、更準確、更強大”。OpenAI同時還推出了語音轉(zhuǎn)文字的Whisper API，一分鐘只需要0.006美元。

OpenAI表示，公司在ChatGPT API中引入了新的語言，希望能通過加入更多提示限制來過濾不當內(nèi)容。 

圖片來源：視覺中國-VCG111421680440 

出于內(nèi)容擔憂，蘋果暫停一應用更新

面對生成式AI熱潮，蘋果似乎要小心謹慎得多。據(jù)路透社報道，蘋果上周阻止了采用ChatGPT功能的電郵應用程序BlueMail的更新，因為擔心其產(chǎn)生對青少年兒童不當?shù)膬?nèi)容。

據(jù)悉，BlueMail的新AI功能以ChatGPT為基礎，能夠基于先前電郵的內(nèi)容和日歷事件自動編寫郵件。

“你的應用程序包含人工智能生成的內(nèi)容，但目前似乎不包含內(nèi)容過濾，”蘋果應用程序?qū)彶閳F隊上周在給開發(fā)者的消息中表示。

應用程序?qū)彶閳F隊認為，BlueMail要么將其年齡限制提高到17 歲及以上，要么加入內(nèi)容過濾程序。蘋果設置17歲及以上用戶的年齡限制針對的是可能包含攻擊性語言、性內(nèi)容和提及毒品等內(nèi)容的應用程序類別。

BlueMail開發(fā)公司Blix Inc.的聯(lián)合創(chuàng)始人Ben Volach表示，BlueMail具有內(nèi)容過濾的功能，目前將年齡設置在4歲及以上。Volach認為蘋果的做法不公平，因為其他包含類似AI功能的應用沒有設置年齡限制卻得到了批準。

“Apple讓我們很難為用戶帶來創(chuàng)新，”他表示，“我們要的是公平。如果我們要設置17歲以上的年齡限制，其他應用也該如此。”他同時稱，BlueMail的安卓版在谷歌應用市場就可以更新，無需設置年齡限制，也不需要進一步的內(nèi)容過濾機制。

蘋果發(fā)言人表示，開發(fā)者可通過蘋果應用程序?qū)彶槲瘑T會的上訴程序發(fā)起申訴，蘋果方面正在調(diào)查Blix的申訴。

投資了ChatGPT開發(fā)公司OpenAI的微軟近日上線了融合ChatGPT功能的新版搜索引擎必應。該程序在蘋果應用市場設置了17歲及以上的年齡限制，但也沒有在谷歌應用市場設置年齡限制。微軟發(fā)言人表示，之所以設置17歲及以上的年齡限制，是因為必應可以找到成人內(nèi)容。

ChatGPT API新模型有望更好過濾內(nèi)容

在媒體爆出蘋果限制BlueMail更新的前一天，OpenAI宣布推出ChatGPT以及語音轉(zhuǎn)換文本模型Whisper的應用程序接口（API）。兩個API價格低廉，功能強大，第三方開發(fā)人員可以通過 API 的方式將 ChatGPT 集成到他們的應用程序和服務中。

據(jù)OpenAI，ChatGPT API接入的模型名為 gpt-3.5-turbo，這是許多非聊天用例的最佳模型，而且比 ChatGPT 和背后的GPT- 3.5 模型“更快、更準確、更強大”，且每輸出100萬個單詞，價格才2.7美元（約18元人民幣），比之前的GPT-3.5便宜了10倍。Whisper API可以用來轉(zhuǎn)錄或翻譯音頻，費用為每分鐘0.006美元。

目前，已經(jīng)有多個應用程序通過API的方式把ChatGPT和Whisper融入到服務之中，如社交軟件SnapChat，購物軟件Instacart，學習軟件Quizlet和Speak等。

此前，ChatGPT爆火之后，各種「自制API」層出不窮，但效果欠佳且成本較高。此次OpenAI開放官方的低價API，為各類中小型開發(fā)者打開了新的大門。

官方API雖然在功能和價格上又上了一層樓，但在ChatGPT API推出后，有網(wǎng)友馬上發(fā)現(xiàn)，這個API的內(nèi)容過濾機制是比較松散的，可以生成暴力和色情內(nèi)容，只是對“如何制造炸彈”一類的問題拒絕回答。

實際上，圍繞生成式AI的道德爭議一直是OpenAI面臨的挑戰(zhàn)。此前就有用戶引導ChatGPT生成種族和性別歧視的回答，更有許多網(wǎng)友聚在一起做“越獄”嘗試，希望找出繞過OpenAI的安全機制，讓ChatGPT執(zhí)行超出其原初目標的任務。比如，初創(chuàng)公司Scale AI的一名員工就曾讓ChatGPT透露了其內(nèi)部的技術細節(jié)信息。

對于重視品牌形象的客戶而言，這樣的風險當然是必須回避的。OpenAI在這方面也做了很多工作，除了讓廉價的肯尼亞工廠做數(shù)據(jù)標注外，在技術上也做了一些努力。

據(jù)科技媒體TechCrunch報道，ChatGPT的API采用了一種名為Chat Markup Language（ChatML）的語言，這種語言將輸入文本視為一連串信息和“元數(shù)據(jù)”的結(jié)合。開發(fā)者在接收提問提示（prompt）時，可以加入額外的提示，如“你需要誠實回答”，或者“你只是一個機器人”。這些額外提示可以讓ChatGPT更好地過濾生成的內(nèi)容。

“我們正在轉(zhuǎn)向一種更高級的API。如果你能夠以更加結(jié)構(gòu)化的方式將輸入內(nèi)容放進系統(tǒng)，比如‘這是來自開發(fā)者’或者‘這是來自用戶’……我想，作為開發(fā)者，你（使用ChatML）可以更好地抵御那些通過提示進行攻擊的行為，”OpenAI的主席和董事長Greg Brockman表示。

此外，ChatGPT API還向用戶提供付費的專屬算力（Dedicated capacity），付錢的大公司不僅可以擁有更加流暢快速的應答，還可以獲得更高的文字輸入上限，這樣可以讓ChatGPT記住更多的上下文提示，將減少回答中的偏見和有害內(nèi)容。據(jù)Brockman，專屬算力用戶可以在gpt-3.5-turbo模型中輸入高達1.6萬的token，是現(xiàn)有標準ChatGPT模型的四倍。

封面圖片來源：視覺中國-VCG111421680440