每經(jīng)記者 李宣璋    每經(jīng)編輯 陳旭    

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布通知，就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《辦法》）向社會公開征求意見。

所謂生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

《辦法》指出，研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國境內(nèi)公眾提供服務(wù)的，適用本《辦法》。

同時，《辦法》強調(diào)，國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

互聯(lián)網(wǎng)用戶在嘗試使用ChatGPT 每經(jīng)記者 劉國梅 攝

提供者需承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任

日前，以ChatGPT為代表的生成式AI應(yīng)用的數(shù)據(jù)安全問題受到市場討論，也引發(fā)監(jiān)管注意。

據(jù)中國青年報此前一篇名為《ChatGPT遭多國“圍堵”》的報道指出，意大利政府宣布禁止使用ChatGPT，限制ChatGPT的開發(fā)公司OpenAI處理意大利用戶信息，并開始進行相關(guān)的立案調(diào)查。

這是全球范圍內(nèi)針對ChatGPT的第一道政府禁令。意大利的決定表明，尖端人工智能開發(fā)者面臨嚴(yán)峻的政策挑戰(zhàn)。

網(wǎng)信辦本次發(fā)布的《辦法》，對生成式人工智能的合法性以及相關(guān)法律作出了具體規(guī)定。

《辦法》提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人(以下稱“提供者”)，需承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。

《辦法》要求，用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)，應(yīng)滿足以下要求：

符合《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；不含有侵犯知識產(chǎn)權(quán)的內(nèi)容；數(shù)據(jù)包含個人信息的，應(yīng)當(dāng)征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；能夠保證數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性；國家網(wǎng)信部門關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林在接受《每日經(jīng)濟新聞》記者書面采訪時表示，出臺征求意見稿是針對當(dāng)前社會上普遍存在的對生成式人工智能的憂慮給出了一些解決方案，此次征求意見稿對生成式人工智能的響應(yīng)領(lǐng)先全球，符合我國先規(guī)范后發(fā)展的產(chǎn)業(yè)推進路徑。

“個人認(rèn)為征求意見稿解決了一些問題，諸如利用生成式人工智能進行不正當(dāng)競爭等問題，的確應(yīng)該盡早規(guī)范。”盤和林告訴記者，與此同時，有些規(guī)則也需要進一步細(xì)化，比如征求意見稿提到生成式人工智能應(yīng)該提供真實準(zhǔn)確的內(nèi)容，而現(xiàn)階段生成式人工智能存在一個特點，就是在其無法理解的時候，會采用自我生成的方式來生產(chǎn)內(nèi)容，而對于真實準(zhǔn)確的尺度應(yīng)該如何來衡量，還需進一步細(xì)化。

他進一步表示，當(dāng)前人工智能生成內(nèi)容（AIGC）已經(jīng)成為生產(chǎn)力工具，亦可能帶來新一輪科技革命，所以發(fā)展AIGC應(yīng)該是我國科技推進的重點。而制定規(guī)則，是推動我國AIGC產(chǎn)業(yè)發(fā)展的前提。

不得非法留存能夠推斷出用戶身份的輸入信息

以ChatGPT為代表的生成式人工智能產(chǎn)品的爆火，其信息安全、是否侵犯用戶隱私等問題同樣受到高度關(guān)注。

《工人日報》此前報道，綠盟科技首席創(chuàng)新官劉文懋認(rèn)為，在安全隱私方面，ChatGPT的高度“智能化”也導(dǎo)致其存在自己獨特的安全問題：提示注入。通過提示注入，用戶可以繞過OpenAI設(shè)置的內(nèi)容安全策略，從而對ChatGPT進行濫用。

他進一步表示，在輔助編程這一應(yīng)用場景上，ChatGPT的應(yīng)用可能也存在一定的安全隱患，ChatGPT生成的代碼可能含有可被利用的已知安全漏洞。對于企業(yè)來說，雖然員工使用ChatGPT能夠在一定程度上提高某些工作的效率，但由于ChatGPT并沒有通過技術(shù)手段保障用戶數(shù)據(jù)安全，且會對用戶輸入進行分析，故對于敏感信息一定要嚴(yán)格加以保護。

此次發(fā)布的《辦法》，加強了對信息安全以及用戶方面的限制。例如《辦法》提出，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合、用途，采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容。

提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。

封面圖片來源：每經(jīng)資料圖