每經記者 王晶    每經編輯 梁梟    

又到了一年一度的烏鎮(zhèn)時間，11月9日，世界互聯網大會正式開幕。

當前，以人工智能（Artificial Intelligence，AI）為代表的新一輪科技改變和產業(yè)變革正在重構全球創(chuàng)新版圖，重塑全球經濟結構，既為世界各國創(chuàng)造了更加廣闊的發(fā)展機遇，也帶來了安全倫理時等方面的風險挑戰(zhàn)。身處這一變局之中，如何順應信息化、數字化、網絡化、智能化發(fā)展趨勢，同時又塑造健康的倫理價值，是人們共同面對的緊迫課題。

今日（11月10日）下午，在世界互聯網大會分論壇“人工智能與數字倫理”上，清華大學人工智能研究院名譽院長、中國科學院院士張鈸，中國工程院院士高文，之江實驗室主任朱世強等人工智能與數字科技領域的知名專家學者，以及微軟、阿里等人工智能和數字領域頭部企業(yè)負責人，共同圍繞人工智能技術、應用和產業(yè)發(fā)展過程中的安全風險治理與數字倫理建設，以“人工智能的產業(yè)方向與倫理取向”為主題展開交流。各位嘉賓各抒己見，為推動國際社會人工智能倫理研究和治理體系構建等方面碰撞思維、交流互鑒。

AI研究及治理需要全世界不同領域的人員參與

早在上世紀50年代，美國科幻小說家阿西莫夫就在小說《我是機器人》中對相關機器人提出具有前瞻性的“機器人三定律”：即“機器人必須不危害人類，也不允許它眼看人將受害而袖手旁觀；機器人必須絕對服從于人類，除非這種服從有害于人類；機器人必須保護自身不受傷害，除非為了保護人類或者是人類命令它作出犧牲”。

但是上述提醒并沒有引起人工智能界的重視，因為當時人工智能研究還處于探索階段，進展緩慢。而隨著人工智能迅猛發(fā)展，曾經的“遠慮”似乎日益成為“近憂”。

對于發(fā)展第三代人工智能的思路，清華大學人工智能研究院名譽院長、中國科學院院士張鈸認為：“人工智能的研究和治理都需要全世界不同領域的人員參與和合作，除從事人工智能的研發(fā)和使用人員之外，還需要法律、道德、倫理等不同領域人員的參與，我們需要明晰倫理道德的標準，什么是符合道德和倫理的？不同國家、民族團體和個人，都有不盡相同的認識，因此需要全球范圍的合作，共同制定出一套符合全人類利益的標準。”

之江實驗室主任、中國人工智能產業(yè)聯盟副理事長朱世強則認為，人工智能是人類智能在機器領域的延伸，真正的主動權仍然是掌握在人身上。“現在任何一項技術只要是人開發(fā)出來的，總有人能夠控制它，所以技術并沒有原罪，但是技術的應用是有正邪的。”

他以菜刀舉例稱：“菜刀是用來切菜的，菜刀也很多次被用來殺人，但菜刀是沒有原罪的，我們的技術邏輯是希望‘以道制魔’，用技術手段把菜刀打造成鋒利的，但是讓它永遠砍不到人頭上去。這個聽起來有點天方夜譚，但至少應該是我們努力的一個方向。”

朱世強表示，在當前發(fā)展階段，最重要的任務仍然是發(fā)展技術。據他介紹：“我們正構建之江實驗室預防人工智能危害社會的技術圖譜，試圖用一種先進的技術來阻止人工智能的濫用和惡意的違法應用。”

除了國內專家外，2007年圖靈獎獲得者、世界頂尖科學家協會會員約瑟夫·斯發(fā)基斯也通過視頻形式進行了演講。他是2007年圖靈獎獲得者、國際嵌入式系統研究中心Verimag實驗室名譽研究主任，曾作為歐洲“卓越網絡”（Network of Excellence）嵌入式系統設計研究聯盟的技術協調人。

多年來，斯發(fā)基斯一直在觀察ICT（信息與通信技術）和人工智能之間的融合。他認為，這種融合越來越快速，ICT和人工智能也共同帶來了自治系統，這是從弱人工智能到通用人工智能的一大進展。但如今面對的挑戰(zhàn)是，自治系統過于依賴人工智能賦能的組件。

對于如何實現自治系統，斯發(fā)基斯認為，要將人工智能集成到關鍵應用程序中，但現在這還沒有完全實現，因為人工智能還沒有自我解釋的能力，比如解釋神經網絡是如何在如此之多的技術中學習的。

算力會像電力一樣方便使用

討論完人工智能倫理的技術邏輯，以及數字倫理的法理與道理后，人工智能及其產業(yè)模式優(yōu)化對未來人類社會生產生活形態(tài)的影響也備受外界關注。

眾所周知，人工智能技術可以顯著提升人類效率，尤其在圖像識別、語音識別等領域快速完成識別和復雜運算。此外，面對開放性問題，人工智能技術亦可通過窮舉計算，找到人類預料之外的規(guī)律和關聯。

在高文院士看來，大模型正在改變人工智能在各個領域的一些研究情況和現狀，如自然語言大模型等，但想要訓練大模型很重要的一點是要有算力，并且算力對國家經濟的發(fā)展有很大推動作用。

“算力對國家的宏觀經濟發(fā)展有重大影響，與GDP/數字經濟的走勢呈現正相關。算力指數平均每提高一個點，可能會對數字經濟的增長產生千分之五的貢獻，GDP會有0.18%的提升。不僅如此，算力還將促進科學創(chuàng)新。”高文說道。

那么，未來是否有可能把算力通過一個算力網絡輸送給各部門、各行各業(yè)呢？高文表示，通過東數西算等抓手建起算力網，若干年后，算力也會讓用戶像用電一樣方便地使用算力，算力會是一種消費。

不過，要想達到上述理想狀態(tài)，算力還面臨著很多技術問題。但在國家發(fā)改委的部署與支持下，鵬城實驗室探索中國算力網0.1，2019年啟動中國智算網預研項目建設，今年6月完成驗收。高文介紹稱，中國算力網0.1結束以后目前正在推動中國算力網1.0版的工作，這個工作執(zhí)行期從2022年7月到2025年12月，希望中國算力網1.0完成后，可以集聚更大的算力。

站在企業(yè)的角度，螞蟻集團首席技術官倪行軍認為，科技倫理應該融入到公司業(yè)務和產品生命周期中，企業(yè)應秉承對用戶、行業(yè)、社會負責任的態(tài)度，更好地服務于數字經濟高質量發(fā)展和高水平安全。

據倪行軍介紹，螞蟻集團已經在無障礙和適老化改造、保證算法公平性、增強算法普惠等方面做了一些工作。

此外，從去年開始，螞蟻集團和浙江省內一些學術機構和同業(yè)發(fā)起成立浙江金融科技倫理委員會，旗下的數字金融平臺也發(fā)布了平臺自律準則。今年6月，螞蟻集團啟動ESG可持續(xù)發(fā)展戰(zhàn)略，“科技倫理建設”作為重要子議題上升為集團重點工作。

同時，倪行軍還透露，螞蟻集團已在公司內部成立科技倫理委員會，接下來還將成立顧問委員會，邀請業(yè)界資深的專家學者，參與和指導科技倫理建設工作。

封面圖片來源：攝圖網-400094444