人工智能是當(dāng)今社會(huì)的熱點(diǎn)。從年初“阿法狗”橫掃世界頂級(jí)棋手，到近期“阿法元”100比0全勝“阿法狗”，再到近日世界首位機(jī)器人公民的誕生，人工智能以迅猛的發(fā)展勢(shì)頭不斷沖擊著人們的日常生活，也給法律帶來了全新的挑戰(zhàn)。面對(duì)全新的問題與挑戰(zhàn)，法律是否能提供妥當(dāng)?shù)慕鉀Q方案？近日，北京大學(xué)法學(xué)院刑事法治研究中心主辦題為“法律如何應(yīng)對(duì)人工智能”沙龍，來自學(xué)界、司法界、企業(yè)界的專家、學(xué)者就此進(jìn)行了探討。

                                                圖片來源：視覺中國(guó)

上海交通大學(xué)凱原法學(xué)院教授鄭戈：

法律要智能地應(yīng)對(duì)人工智能

人工智能是現(xiàn)代工業(yè)文明發(fā)展的必然產(chǎn)物，其發(fā)展進(jìn)程始終與工業(yè)文明的發(fā)展相伴而行。與人工智能的飛速發(fā)展相對(duì)照的，是發(fā)端于農(nóng)業(yè)社會(huì)的、以具有有限理性的人為規(guī)制對(duì)象的法律體系所天然具有的滯后性。

當(dāng)人工智能極大地強(qiáng)化了人類能力時(shí)，現(xiàn)有的法律制度就會(huì)呈現(xiàn)出其局限性。以美國(guó)的電子取證、訴訟管理、合同起草和審核為例，人工智能目前在法律職業(yè)中的應(yīng)用，說明此類技術(shù)被全面推廣以后，大量的法律職業(yè)將被人工智能取代，人工智能甚至可能導(dǎo)致法律思維和法律應(yīng)用方式的根本性變革。

但人工智能對(duì)法律更根本的沖擊在于人工智能會(huì)導(dǎo)致極化社會(huì)。人工智能使法律滯后于技術(shù)和經(jīng)濟(jì)的發(fā)展，使把握先機(jī)的人獲得巨大的邊際回報(bào)。并且，由于數(shù)據(jù)是人工智能時(shí)代最重要的資源，這將導(dǎo)致個(gè)人隱私和自由變得非常脆弱。同時(shí)，掌握了大量公民數(shù)據(jù)的企業(yè)可以利用這些信息對(duì)公民進(jìn)行隱秘誘導(dǎo)，由此導(dǎo)致人們都“自愿服從”于某種看不見的力量。最后，一旦人工智能被應(yīng)用于充滿不確定性的金融市場(chǎng)，還可能帶來各種災(zāi)難性后果。

面對(duì)這一系列困局，一種應(yīng)對(duì)思路是為人工智能賦予法律人格。但是，無論機(jī)器人以何種方式承擔(dān)責(zé)任，最終的責(zé)任承擔(dān)者都是人，這使得它的法律人格顯得毫無必要。

而在自動(dòng)駕駛汽車領(lǐng)域，人工智能和法律的沖突則更為明顯。為此，德國(guó)和美國(guó)提出了兩種截然相反的應(yīng)對(duì)方案：德國(guó)側(cè)重于自上而下的規(guī)則設(shè)計(jì)，美國(guó)則采取了一種“行業(yè)自治+政府把關(guān)”的公法模式。此外，第三種規(guī)制思路是對(duì)算法設(shè)計(jì)者提出倫理性約束，要求其始終將人的生命放在首位。

法律如何更加“智能”地應(yīng)對(duì)人工智能？

首先，法律人士應(yīng)當(dāng)學(xué)習(xí)人工智能知識(shí)，使人工智能的基礎(chǔ)操作系統(tǒng)符合人類倫理和法律。其次，政府應(yīng)當(dāng)加大對(duì)人工智能的投入，吸收更多人工智能人才參與立法、行政和司法工作。第三，相比上述德國(guó)模式，美國(guó)模式更值得提倡的，即相應(yīng)的技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)和個(gè)人數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)應(yīng)該是對(duì)行業(yè)自身發(fā)展出的標(biāo)準(zhǔn)與公共利益、個(gè)人權(quán)利保護(hù)原則的綜合考量。最后，應(yīng)當(dāng)制定相關(guān)規(guī)則約束算法設(shè)計(jì)者的行為，倡導(dǎo)和強(qiáng)化算法倫理。

最高法院司改辦規(guī)劃處處長(zhǎng)何帆：

人工智能短期內(nèi)不可能淘汰法律人

必須承認(rèn)的是，盡管人工智能目前的確已開始取代一部分低端的法律職業(yè)，但是，囿于人工智能廣泛運(yùn)用的諸多前提要求，人工智能在短期內(nèi)不可能淘汰法律人。

目前，部分法院已經(jīng)開始以語音識(shí)別、圖像識(shí)別、證據(jù)指引、知識(shí)圖譜為媒介，對(duì)人工智能進(jìn)行初步運(yùn)用。但這一過程也面臨各種制約和障礙，例如，部分法官對(duì)人工智能的深度運(yùn)用仍存疑慮，認(rèn)為人工智能并未減輕其工作負(fù)擔(dān)；人工智能的深度應(yīng)用要求打通公檢法辦案平臺(tái)，但平臺(tái)搭建需要強(qiáng)化統(tǒng)籌；人工智能的類案推送功能未來可能導(dǎo)致部分辦案人員產(chǎn)生說理懈怠，或者過度依賴機(jī)器，等等。

法律人應(yīng)當(dāng)積極參與到技術(shù)研發(fā)中，為人工智能的深度應(yīng)用提供場(chǎng)景、提煉規(guī)則，制作各種證據(jù)指引和知識(shí)圖譜，推進(jìn)機(jī)器深度學(xué)習(xí)?？傊?，投入多大人工，就會(huì)有多大智能。

京東集團(tuán)法務(wù)部高級(jí)總監(jiān)丁道勤：

人工智能的法律實(shí)踐仍處于起步階段

人工智能的應(yīng)用領(lǐng)域是十分廣闊的，圖像識(shí)別和語音識(shí)別僅是其中很小的一個(gè)分支。

人工智能的三個(gè)核心要素是場(chǎng)景、數(shù)據(jù)和算力，但人工智能不一定意味著大數(shù)據(jù)。以鸚鵡模式和烏鴉模式為例，相比于只會(huì)模仿的鸚鵡，能自主感知、推理、學(xué)習(xí)、執(zhí)行的烏鴉式人工智能才是更值得推崇的。

目前，人工智能已經(jīng)開始被運(yùn)用于法律領(lǐng)域，但相較商業(yè)領(lǐng)域，人工智能的法律實(shí)踐仍處于起步階段。人工智能的法律影響主要體現(xiàn)在主體論即機(jī)器人的法律主體資格問題，以及應(yīng)用論包括知識(shí)產(chǎn)權(quán)保護(hù)、侵權(quán)責(zé)任、隱私保護(hù)、勞動(dòng)法和倫理問題等兩大方面。

騰訊研究院法律研究中心副主任蔡雄山：

人工智能可能帶來五方面法律問題

人工智能帶來了下一波產(chǎn)業(yè)浪潮，基礎(chǔ)研究領(lǐng)域的進(jìn)步使全球互聯(lián)網(wǎng)企業(yè)都在積極進(jìn)行戰(zhàn)略轉(zhuǎn)變。從產(chǎn)業(yè)界的視角出發(fā)，人工智能可能帶來如下法律問題：

其一，個(gè)人數(shù)據(jù)保護(hù)問題。在人工智能時(shí)代，數(shù)據(jù)具有巨大商業(yè)價(jià)值，因此如何對(duì)數(shù)據(jù)進(jìn)行保護(hù)、是否要賦予數(shù)據(jù)所有權(quán)，就是值得思考的。

其二，算法歧視問題。例如，當(dāng)運(yùn)用大數(shù)據(jù)對(duì)個(gè)人征信進(jìn)行評(píng)估時(shí)，由于系統(tǒng)設(shè)計(jì)的主觀性和數(shù)據(jù)本身的不全面性，得出的結(jié)論可能不夠客觀。

其三，監(jiān)管以及由此引發(fā)的責(zé)任分配問題。一個(gè)典型的例子就是自動(dòng)駕駛汽車發(fā)生事故后的歸責(zé)問題，尤其是在加入機(jī)器學(xué)習(xí)之后，這一困境將更加凸顯。

其四，人工智能作品的知識(shí)產(chǎn)權(quán)歸屬問題。這個(gè)問題已在中國(guó)出現(xiàn)。

其五，機(jī)器人的法律人格問題。這既關(guān)涉法律，更關(guān)涉?zhèn)惱怼?/p>

面對(duì)人工智能帶來的這一系列問題，中國(guó)和西方現(xiàn)在正站在同一起跑線上。如何在這一特殊的歷史階段作出我們獨(dú)特的貢獻(xiàn)，是當(dāng)下有必要深入探討的。

                                                  圖片來源：視覺中國(guó)

華宇元典公司副總經(jīng)理黃琳娜：

法律知識(shí)工程師可能是新就業(yè)方向

人工智能處理民間借貸案件中的“簽名偽造抗辯”可能遇到的語言識(shí)別障礙，說明法律AI不能復(fù)制圍棋的成功。“阿法狗”成功的原因在于圍棋邊界封閉、規(guī)則明晰，這使得機(jī)器可以自造數(shù)據(jù)。但法律世界包羅萬象、復(fù)雜混沌，常常沒有明確的對(duì)錯(cuò)之分，且法律實(shí)踐必須納入人類知識(shí)，法律AI不可能擺脫人類經(jīng)驗(yàn)積累數(shù)據(jù)。并且，在法律中存在著諸如“數(shù)額較大”與“數(shù)額巨大”、“搶劫”與“搶奪”等文本非常相似但法律含義有明確區(qū)別的概念，以及諸如“時(shí)效”等基于特定目的而由人類擬制的概念和制度，這給機(jī)器的無監(jiān)督學(xué)習(xí)帶來了巨大困難。

目前研發(fā)中探索出的方式是通過專業(yè)法律人積累帶標(biāo)簽數(shù)據(jù)，并且將監(jiān)督學(xué)習(xí)與強(qiáng)化學(xué)習(xí)相結(jié)合，使機(jī)器先通過較小規(guī)模的訓(xùn)練樣本得到初步模型，再在法律人的不斷反饋下擴(kuò)張樣本規(guī)模，通過數(shù)據(jù)循環(huán)最終得到較優(yōu)的模型。在這個(gè)過程中，法律人進(jìn)行的數(shù)據(jù)標(biāo)注是非常重要的。

人工智能的發(fā)展不會(huì)導(dǎo)致法律人失業(yè)，但可能會(huì)使法律人的工作形態(tài)發(fā)生轉(zhuǎn)化。未來，法律知識(shí)工程師可能成為一個(gè)新的就業(yè)方向。法律知識(shí)工程師的工作是制作法律知識(shí)圖譜，將人類知識(shí)轉(zhuǎn)化為機(jī)器可以理解的形態(tài)。與圍棋不同，法律人工智能行業(yè)是一個(gè)強(qiáng)人工干預(yù)的知識(shí)驅(qū)動(dòng)行業(yè)，因此必須探索一條獨(dú)特的發(fā)展路徑。

北京大學(xué)法學(xué)院副教授車浩：

人工智能帶來三個(gè)現(xiàn)實(shí)法律問題

人工智能可能帶來三個(gè)現(xiàn)實(shí)的法律問題：

一是自動(dòng)駕駛問題。自動(dòng)駕駛汽車的出現(xiàn)將導(dǎo)致以人為中心所建立的各種法律規(guī)則和概念體系逐漸消亡。當(dāng)自動(dòng)駕駛汽車進(jìn)入市場(chǎng)后，自動(dòng)駕駛汽車和非自動(dòng)駕駛汽車在一定時(shí)期內(nèi)將并存于交通領(lǐng)域，這將給交通領(lǐng)域注意義務(wù)的設(shè)置和過失責(zé)任的認(rèn)定帶來挑戰(zhàn)。并且，注意義務(wù)規(guī)則的提煉和自動(dòng)駕駛汽車應(yīng)當(dāng)遵循的原則必須與當(dāng)?shù)氐膶?shí)際交通狀況相適應(yīng)，這就意味著自動(dòng)駕駛領(lǐng)域的法律和技術(shù)必須本土化，而不能一味地移植借鑒。而等到自動(dòng)駕駛?cè)嫫占啊⒔煌I(lǐng)域完全被人工智能支配的那一天，法律將不得不限制、禁止人的駕駛，以保證人工智能始終能作出正確判斷。這時(shí)，統(tǒng)治交通領(lǐng)域的將不再是規(guī)則，而是算法。人類生活的基本領(lǐng)域?qū)⒈粰C(jī)器所侵蝕。

二是人工智能的人格問題。這是基于立法與學(xué)術(shù)研究角度生發(fā)出的思考。通常而言，法律規(guī)制的對(duì)象是社會(huì)一般理性成年人；對(duì)于達(dá)不到這一理性標(biāo)準(zhǔn)的兒童、精神病人等群體，法律會(huì)另行設(shè)定規(guī)則，對(duì)其進(jìn)行特殊保護(hù)。但是，當(dāng)人工智能開始普及，當(dāng)社會(huì)上出現(xiàn)能力高于一般理性成年人的“超人”時(shí)，傳統(tǒng)的法律制度和規(guī)范將捉襟見肘。有必要考慮為這類人設(shè)定專門的法律規(guī)則。

三是人的退化問題。當(dāng)人把腦力活動(dòng)都交給機(jī)器，當(dāng)人類生活的各個(gè)領(lǐng)域都被機(jī)器所取代，人類的智力必然會(huì)因?yàn)橛眠M(jìn)廢退而發(fā)生退化。到了那時(shí)，法律或許也就可有可無。

北大英華科技有限公司總經(jīng)理趙曉海：

人工智能推動(dòng)法學(xué)教育轉(zhuǎn)型

人工智能不僅會(huì)影響法律職業(yè)，同時(shí)還會(huì)推動(dòng)法學(xué)教育的轉(zhuǎn)型。比起傳授知識(shí)，創(chuàng)新、實(shí)踐能力和判斷力的塑造才是未來法學(xué)院的主要培養(yǎng)方向。今后法學(xué)院應(yīng)當(dāng)建立人工智能研究院，以理智和積極的態(tài)度應(yīng)對(duì)人工智能以及它帶來的新挑戰(zhàn)。

（來源：經(jīng)濟(jì)參考報(bào) 陳爾彥）