每經(jīng)記者 朱玫潔    每經(jīng)編輯 楊歡

人工智能蓬勃發(fā)展的同時，伴隨的風險也被大量關(guān)注。

7月10日，以“發(fā)展負責任的人工智能”為主題的2020世界人工智能大會治理論壇召開。個人和企業(yè)的數(shù)據(jù)隱私怎么保護？就業(yè)崗位會不會被替代？人工智能侵權(quán)的怎么認定？……這些問題都出現(xiàn)論壇的探討中。

早在去年6月，我國第一次發(fā)布人工智能治理原則，印發(fā)《新一代人工智能治理原則——發(fā)展負責任的人工智能》,提出“負責任”“守規(guī)矩”。

當時，上海大學戰(zhàn)略研究院特聘院長、國家新一代人工智能治理專業(yè)委員會委員李仁涵曾表示，“人工智能是新興事物，在留下足夠發(fā)展空間的前提下，一定要加強監(jiān)管。建議各級政府將《治理原則》融入人工智能發(fā)展的政策，人工智能走到哪，《治理原則》跟到哪……”

一年之后，在2020世界人工智能大會治理論壇上，擔任上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)專家咨詢委員會副主任的李仁涵，作為工作組召集人，見證了上海試驗區(qū)專委會新設(shè)的“治理工作組”啟動運行。

李仁涵在論壇上提到，2020年治理工作組的主要工作，包括擴大國際交流合作、開展人工智能數(shù)據(jù)安全立法調(diào)研、研究人工智能治理相關(guān)的政策體系、倫理規(guī)范和技術(shù)標準等。

治理工作組成立背后有何考量？未來人工智能治理怎么發(fā)展？對此《每日經(jīng)濟新聞》記者采訪李仁涵。同時，李仁涵近日撰文《開啟人工智能治理新篇章》授權(quán)每日經(jīng)濟新聞發(fā)布，詳見下文。

李仁涵在論壇現(xiàn)場發(fā)言

NBD：2019年，北京與上海率先獲得“國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)”。此次論壇，上海試驗區(qū)專家咨詢委員會新成立了治理工作組，請問新成立該工作組的考量是什么？

李仁涵：治理工作是“上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)”建設(shè)的戰(zhàn)略布局和重要工作內(nèi)容。2019年5月，科技部與上海市啟動試驗區(qū)建設(shè)，重點布局了四方面的任務(wù)：一是提升人工智能原始創(chuàng)新策源能力；二是開展人工智能創(chuàng)新應(yīng)用和產(chǎn)業(yè)賦能試驗；三是建設(shè)開放聯(lián)動的創(chuàng)新生態(tài)圈；四是建立健全政策法規(guī)、倫理規(guī)范和治理體系。根據(jù)建設(shè)方案，到2023年，上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)將實現(xiàn)集“理論、技術(shù)、應(yīng)用、人才和治理”為一體的目標，構(gòu)筑綜合性開放型戰(zhàn)略優(yōu)勢，形成全國領(lǐng)先、世界先進的示范引領(lǐng)效應(yīng)。

所以，治理一直是上海試驗區(qū)的重點工作，也一直在持續(xù)推進。今年5月，上海市2020年度“科技創(chuàng)新行動計劃”人工智能科技支撐專項項目，主要圍繞強化人工智能領(lǐng)域科技創(chuàng)新策源能力、創(chuàng)新治理能力進行布局，就人工智能治理體系與關(guān)鍵技術(shù)，面向形成醫(yī)療、交通、教育、金融和藥物研制等5個方向的治理解決方案進行引導支持。這是全國首次在省市級層面進行較大規(guī)模的引導布局。

成立治理工作組，是為了進一步加強人工智能治理工作，形成更加專業(yè)的研究隊伍和組織模式，推進治理的相關(guān)研究，并代表上海參與國家和國際的治理交流與合作，同時推進治理工作的落實落地。

NBD：“人工智能治理如何開展”是此次論壇的討論熱點，這方面您的想法是怎樣的？在您看來，人工智能治理的發(fā)展有何大趨勢？

李仁涵：完善人工智能治理體系是保證人工智能健康和高質(zhì)量發(fā)展的關(guān)鍵。2019年，中國國家新一代人工智能治理專業(yè)委員會發(fā)布了以“發(fā)展負責任的人工智能”為主題的治理原則。近年來，眾多相關(guān)組織和機構(gòu)發(fā)布了上百份人工智能治理原則和倡議。全球正在就推動人與機器的和諧共生逐步達成共識。將這些共識性原則轉(zhuǎn)化為行動方案已是大勢所趨。

為此，上海試驗區(qū)專家咨詢委員會也提出《協(xié)同落實人工智能治理原則的行動建議》（上海AI治理協(xié)同行動9條），具體包括“一平臺、四工作、四體系”的行動方案。

“一個平臺”，即構(gòu)建全球合作網(wǎng)絡(luò)和交流平臺，推動形成全球人工智能治理研究和協(xié)作共同體，汲取全球多元文化智慧，為解決相關(guān)問題提供解決方案；“四工作”是推進AI治理標準規(guī)范的制定、推動建立行業(yè)自律、總結(jié)推出最佳實踐、推動安全可信技術(shù)研發(fā)；“四體系”是致力于建立人工智能治理的評估體系、監(jiān)管體系、人才體系、保障體系。

這也是國內(nèi)首次提出系統(tǒng)落實國家人工智能治理原則的行動建議方案，將為進一步推進人工智能治理工作提供參考。

總之，人工智能在不斷迭代發(fā)展，因此實踐實驗是至關(guān)重要的，我們需要通過不斷地從理論到實踐，再從實踐到理論的循環(huán)，才能真正促進治理的完善，保證人工智能健康高質(zhì)量發(fā)展。所以不僅要坐而論道，更要起而行之。

以下為李仁涵《開啟人工智能治理新篇章》全文

人類文明與進步，始終伴隨著人類治理水平的不斷提升，今天以前，治理只是對人與人的社會。人工智能是一種通過機器來模擬人類認知能力的技術(shù)，隨著它的廣泛應(yīng)用，治理受到了挑戰(zhàn)。開展人工智能治理也是對人工智能健康發(fā)展提供保障。

2019年2月，中國政府專門成立了國家新一代AI治理專業(yè)委員會，同年年6月，國家新一代AI治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八條原則。

中國政府和上海市政府高度重視AI治理。2019世界人工智能大會（永久地址：上海）專門增設(shè)了人工智能治理分會場，從過去單純的聚焦人工智能技術(shù)，開啟了聚焦技術(shù)和治理并重的新篇章。會上，科技部領(lǐng)導、上海市有關(guān)領(lǐng)導都表達了對人工智能治理的高度重視，與會國內(nèi)外著名專家、學者和企業(yè)家充分肯定了中國的八項原則，并表示在人工智能治理方面必須加強國際交流與合作，體現(xiàn)人類命運共同體的理念。

今年論壇在去年大會的基礎(chǔ)上，又進了一大步。來自海內(nèi)外的大學、研究院所及企業(yè)等著名學者、專家和企業(yè)家，他們的發(fā)言不僅僅停留在“重視”上，而且進一步探討了“如何做”的問題。專家們通過對技術(shù)的剖解，提出如何實現(xiàn)安全（含隱私保護）、可靠與可控的路徑；通過對法律與規(guī)則制定等方面的分析，研討了如何制定國際共同遵守的機制等等方面的問題。進一步體現(xiàn)了人類命運共同體理念的落地。

在上海市政府高度重視和領(lǐng)導下，上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)專家咨詢委員會在會上專門成立了人工智能治理工作組，并推出了《協(xié)同落實人工智能治理原則的行動建議》（上海AI治理協(xié)同行動9條）。會后，工作組將按照這個行動建議開展各項工作。

上海是我國最重要的國際大都市，國際化程度最高，在人工智能治理方面，我們一方面要積極參與到國際人工智能治理規(guī)則制定的行列中，另一方面又要為我國人工智能治理起到示范與帶動作用。同時，我們還要積極探索和推動制定多邊和雙邊的國際規(guī)則，確保國外人工智能產(chǎn)品進入中國、中國人工智能產(chǎn)品走出去的規(guī)范?？傊?，人工智能治理的內(nèi)容非常豐富，應(yīng)該將其“嵌入”到整個社會治理體系之中，確保人、人與機器、人的社會和諧與健康發(fā)展。

李仁涵簡介

上海大學戰(zhàn)略研究院特聘院長、上海交通大學人工智能研究院首席顧問、國家新一代人工智能治理專業(yè)委員會委員、上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)專家咨詢委員會副主任、上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)專家咨詢委員會治理工作組召集人