每經(jīng)記者 李宣璋    每經(jīng)編輯 陳旭    

4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布通知，就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《辦法》）向社會(huì)公開(kāi)征求意見(jiàn)。

所謂生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

《辦法》指出，研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的，適用本《辦法》。

同時(shí)，《辦法》強(qiáng)調(diào)，國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

AIGC已成生產(chǎn)力工具

日前，以ChatGPT為代表的生成式AI應(yīng)用的數(shù)據(jù)安全問(wèn)題受到市場(chǎng)討論，也引發(fā)監(jiān)管注意。

《辦法》提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人(以下簡(jiǎn)稱(chēng)“提供者”)，需承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)。

《辦法》要求，用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)，應(yīng)滿(mǎn)足以下要求：符合《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容；數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀(guān)性、多樣性；國(guó)家網(wǎng)信部門(mén)關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

浙江大學(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤(pán)和林在接受《每日經(jīng)濟(jì)新聞》記者書(shū)面采訪(fǎng)時(shí)表示，出臺(tái)征求意見(jiàn)稿是針對(duì)當(dāng)前社會(huì)上普遍存在的對(duì)生成式人工智能的憂(yōu)慮給出了一些解決方案，此次征求意見(jiàn)稿對(duì)生成式人工智能的響應(yīng)領(lǐng)先全球，符合我國(guó)先規(guī)范后發(fā)展的產(chǎn)業(yè)推進(jìn)路徑。

“個(gè)人認(rèn)為征求意見(jiàn)稿解決了一些問(wèn)題，諸如利用生成式人工智能進(jìn)行不正當(dāng)競(jìng)爭(zhēng)等問(wèn)題，的確應(yīng)該盡早規(guī)范。”盤(pán)和林告訴記者，與此同時(shí)，有些規(guī)則也需要進(jìn)一步細(xì)化，比如征求意見(jiàn)稿提到生成式人工智能應(yīng)該提供真實(shí)準(zhǔn)確的內(nèi)容，而現(xiàn)階段生成式人工智能存在一個(gè)特點(diǎn)，就是在其無(wú)法理解的時(shí)候，會(huì)采用自我生成的方式來(lái)生產(chǎn)內(nèi)容，而對(duì)于真實(shí)準(zhǔn)確的尺度應(yīng)該如何來(lái)衡量，還需進(jìn)一步細(xì)化。

他進(jìn)一步表示，當(dāng)前人工智能生成內(nèi)容（AIGC）已經(jīng)成為生產(chǎn)力工具，亦可能帶來(lái)新一輪科技革命，所以發(fā)展AIGC應(yīng)該是我國(guó)科技推進(jìn)的重點(diǎn)。而制定規(guī)則，是推動(dòng)我國(guó)AIGC產(chǎn)業(yè)發(fā)展的前提。

用戶(hù)隱私等受到關(guān)注

以ChatGPT為代表的生成式人工智能產(chǎn)品的爆火，其信息安全、是否侵犯用戶(hù)隱私等問(wèn)題同樣受到高度關(guān)注。

《工人日?qǐng)?bào)》此前報(bào)道，綠盟科技首席創(chuàng)新官劉文懋認(rèn)為，在安全隱私方面，ChatGPT的高度“智能化”也導(dǎo)致其存在自己獨(dú)特的安全問(wèn)題：提示注入。通過(guò)提示注入，用戶(hù)可以繞過(guò)OpenAI設(shè)置的內(nèi)容安全策略，從而對(duì)ChatGPT進(jìn)行濫用。

他進(jìn)一步表示，在輔助編程這一應(yīng)用場(chǎng)景上，ChatGPT的應(yīng)用可能也存在一定的安全隱患，ChatGPT生成的代碼可能含有可被利用的已知安全漏洞。對(duì)于企業(yè)來(lái)說(shuō)，雖然員工使用ChatGPT能夠在一定程度上提高某些工作的效率，但由于ChatGPT并沒(méi)有通過(guò)技術(shù)手段保障用戶(hù)數(shù)據(jù)安全，且會(huì)對(duì)用戶(hù)輸入進(jìn)行分析，故對(duì)于敏感信息一定要嚴(yán)格加以保護(hù)。

此次發(fā)布的《辦法》，加強(qiáng)了對(duì)信息安全以及用戶(hù)方面的限制。例如《辦法》提出，提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，采取適當(dāng)措施防范用戶(hù)過(guò)分依賴(lài)或沉迷生成內(nèi)容。

提供者在提供服務(wù)過(guò)程中，對(duì)用戶(hù)的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶(hù)身份的輸入信息，不得根據(jù)用戶(hù)輸入信息和使用情況進(jìn)行畫(huà)像，不得向他人提供用戶(hù)輸入信息。