每經(jīng)記者 可楊    每經(jīng)編輯 張海妮    

瑞萊智慧CEO田天。圖片來(lái)源：受訪者供圖

人工智能（AI）時(shí)代正在到來(lái)。

隨著人工智能技術(shù)在越來(lái)越多場(chǎng)景中的落地，人們的便捷生活也越來(lái)越依賴(lài)于人工智能，甚至在一些人們難以意識(shí)到的時(shí)刻，人工智能都在發(fā)揮著重要作用，比如GPS導(dǎo)航、出行規(guī)劃、個(gè)性化推薦、翻譯等等。

同時(shí)，因?yàn)槿斯ぶ悄茉絹?lái)越廣泛地被使用，關(guān)于人臉識(shí)別的濫用、算法的不公平性、隱私數(shù)據(jù)泄露等問(wèn)題也成為人們關(guān)注的焦點(diǎn)。而人工智能從業(yè)者們，則開(kāi)始呼吁行業(yè)重視人工智能的安全攻防與治理工作。

瑞萊智慧是清華大學(xué)人工智能研究院孵化的產(chǎn)學(xué)研技術(shù)企業(yè)，成立于2018年，是國(guó)內(nèi)首家安全可控人工智能系統(tǒng)提供商。

近日，在接受《每日經(jīng)濟(jì)新聞》（以下簡(jiǎn)稱(chēng)NBD）記者專(zhuān)訪時(shí)，瑞萊智慧CEO田天談到了自己對(duì)人工智能安全攻防危害以及人工智能的治理等的看法。

談人工智能安全：尚需不斷迭代、博弈、對(duì)抗

NBD：人工智能的安全可控是指什么？

田天：“安全”是指打造數(shù)據(jù)安全和算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴(lài)帶來(lái)的隱私泄漏與數(shù)據(jù)投毒等隱患，同時(shí)提升算法的魯棒性（注：Robust的音譯，指系統(tǒng)的健壯性）與可靠性。

首先是算法可靠，其實(shí)算法有很多隱患，和傳統(tǒng)程序不同，AI從數(shù)據(jù)中學(xué)習(xí)，存在很多人不理解的部分，這些部分存在被黑客誤導(dǎo)的空間，所以首先要提升算法可靠性。另一方面是數(shù)據(jù)安全，AI是基于大數(shù)據(jù)，但不能因?yàn)樽鯝I，就侵犯用戶(hù)隱私。

“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控?，F(xiàn)在的AI能力很強(qiáng)，有人會(huì)把AI用在一些不合理或不合法的場(chǎng)景，比如偽造畫(huà)面、視頻，或有些帶有歧視性的應(yīng)用等，這些需要專(zhuān)門(mén)的治理技術(shù)以及和法律法規(guī)配合，提升對(duì)于AI的應(yīng)用管控。

NBD：安全攻防是近年來(lái)AI領(lǐng)域最前沿的技術(shù)方向之一，這其中實(shí)際的安全危害都有什么？

田天：目前，通過(guò)對(duì)抗性數(shù)據(jù)污染、算法修改、惡意樣本攻擊等方式對(duì)AI算法進(jìn)行深層次攻擊已經(jīng)成為主要趨勢(shì)。

比如我們可以通過(guò)佩戴帶有特定圖案的眼鏡等，攻破手機(jī)解鎖、線上身份認(rèn)證、線下安防等領(lǐng)域的AI系統(tǒng)，讓安全驗(yàn)證形同虛設(shè)，嚴(yán)重威脅人身和財(cái)產(chǎn)安全。

再比如，在交通領(lǐng)域，車(chē)輛的輔助駕駛或自動(dòng)駕駛系統(tǒng)也可能因?yàn)锳I算法自身的缺陷而喪失正常的視覺(jué)識(shí)別能力，錯(cuò)誤識(shí)別交通指示牌、“看不到”大型障礙物等，引發(fā)交通事故。

NBD：對(duì)于這些危害，我們有什么應(yīng)對(duì)方法？

田天：技術(shù)問(wèn)題需要依賴(lài)技術(shù)手段來(lái)解決，在互聯(lián)網(wǎng)時(shí)代有網(wǎng)絡(luò)安全公司提供相關(guān)的網(wǎng)絡(luò)安全產(chǎn)品和組件，在AI時(shí)代也應(yīng)該提供專(zhuān)門(mén)針對(duì)AI系統(tǒng)的殺毒軟件，為算法模型提供安全檢測(cè)與防御升級(jí)功能，不斷提升安全性。

NBD：用AI去解決 AI的危害，會(huì)不會(huì)用來(lái)解決危害的技術(shù)本身也有一些我們沒(méi)有發(fā)現(xiàn)的危害？

田天：肯定會(huì)的，但安全的本質(zhì)是攻防升級(jí)，至少在目前情況下還是需要不斷迭代、博弈對(duì)抗的，不可能一下子把它做到完美。當(dāng)然，提供真正安全可靠的人工智能，是我們的長(zhǎng)期目標(biāo)，也是第三代人工智能核心要解決的問(wèn)題。

談算法公平性：已有成熟技術(shù)方案

NBD：你覺(jué)得人工智能在隱私保護(hù)和便利生活這兩者之間達(dá)到一個(gè)平衡了嗎？

田天：可以說(shuō)是動(dòng)態(tài)平衡?，F(xiàn)在對(duì)于數(shù)據(jù)的應(yīng)用還遠(yuǎn)遠(yuǎn)不夠，仍有很多要去挖掘的新數(shù)據(jù)類(lèi)型或新應(yīng)用場(chǎng)景。如果我們把應(yīng)用限制在當(dāng)前范圍內(nèi)，可能已經(jīng)平衡了，但在新的應(yīng)用、新的場(chǎng)景上，一些更關(guān)鍵的個(gè)人信息數(shù)據(jù)怎么去使用、需要什么新要求，還需要再思考。

最近一段時(shí)間，很多AI安全問(wèn)題陸續(xù)暴露出來(lái)，大家開(kāi)始做治理，這是一個(gè)很好的時(shí)間點(diǎn)，因?yàn)槿绻俨蛔龅脑?，可能就?huì)產(chǎn)生信任危機(jī)，很多東西就都沒(méi)法再使用、再發(fā)展了。

NBD：算法越來(lái)越被廣泛應(yīng)用的同時(shí)，也帶來(lái)了很多倫理上的爭(zhēng)議，比如人臉識(shí)別等，你怎么看這背后的問(wèn)題？

田天：這其實(shí)是一個(gè)關(guān)于算法公平性的問(wèn)題，和大數(shù)據(jù)殺熟、人臉識(shí)別系統(tǒng)對(duì)不同人種識(shí)別準(zhǔn)確率不同所帶來(lái)的爭(zhēng)議一樣。

這些問(wèn)題有的是系統(tǒng)設(shè)計(jì)者刻意設(shè)置的，這種情況超出了技術(shù)討論的范疇。也有的是算法在運(yùn)行過(guò)程中不自覺(jué)產(chǎn)生的傾向，比如基于算法推薦的新聞APP，如果完全對(duì)它不加限制，僅僅追求優(yōu)化點(diǎn)擊率，它可能就會(huì)一直推各種抓眼球的假新聞等等，這就屬于技術(shù)治理的范疇。

我們?cè)谧鏊惴ㄔO(shè)計(jì)的過(guò)程中，不能只考慮收益上的指標(biāo)，同時(shí)也要考慮到它對(duì)于所有使用者是不是公平、是不是在法律和道德框架之內(nèi)。這些問(wèn)題在發(fā)展技術(shù)之初沒(méi)有被作為重要選項(xiàng)去考慮，但是我們認(rèn)為后續(xù)肯定需要把它們加進(jìn)來(lái)。

NBD：加進(jìn)來(lái)的過(guò)程會(huì)很漫長(zhǎng)嗎？

田天：我覺(jué)得不會(huì)很漫長(zhǎng)。因?yàn)樵诩夹g(shù)上其實(shí)已經(jīng)有成熟的方案，只是之前大家沒(méi)去用。我也希望行業(yè)能逐步建立一種共識(shí)，可能有的行業(yè)是發(fā)展到很穩(wěn)定的狀態(tài)之后，才會(huì)重點(diǎn)考慮治理問(wèn)題，在前期更多是野蠻生長(zhǎng)狀態(tài)。但AI涉及很多非常敏感的因素，希望大家在更早的時(shí)候就關(guān)注到這些問(wèn)題。

談人工智能治理：技術(shù)治理至關(guān)重要

NBD：人工智能的研究與開(kāi)發(fā)，應(yīng)該在多大程度上受到監(jiān)督，由誰(shuí)來(lái)做監(jiān)督工作？

田天：從政府層面，其實(shí)國(guó)家已經(jīng)在做了，包括一些法律法規(guī)，《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》以及正在審議的《個(gè)人信息保護(hù)法(草案)》等，這些都涉及AI領(lǐng)域的管控。

從產(chǎn)業(yè)角度，通過(guò)行業(yè)協(xié)會(huì)、聯(lián)盟、宣言等形式，大家要形成一種自治的氛圍，制定從業(yè)者能夠共同堅(jiān)守的準(zhǔn)則。

從用戶(hù)的角度也應(yīng)該進(jìn)行監(jiān)督，因?yàn)樽罱K影響的還是大家日常生活的一些很實(shí)際、具體的利益。

NBD：在這其中科技公司具體應(yīng)該承擔(dān)什么樣的責(zé)任？

田天：首先像我們這樣專(zhuān)門(mén)從事人工智能的公司，一方面要保證自己做的人工智能解決方案和應(yīng)用完全合規(guī)，另外也要對(duì)外輸出合規(guī)的解決方案。人工智能企業(yè)是人工智能技術(shù)發(fā)展的中堅(jiān)力量，理應(yīng)成為人工智能安全治理的踐行者。

還有一些科技公司作為用戶(hù)方，它們采購(gòu)方案、建設(shè)AI系統(tǒng)時(shí)，應(yīng)該把是否安全可靠可信、是否保護(hù)隱私，作為關(guān)鍵的因素來(lái)考慮，這樣對(duì)企業(yè)自身以及整個(gè)行業(yè)來(lái)說(shuō)都是好事。

NBD：作為一家科技公司的負(fù)責(zé)人，你覺(jué)得技術(shù)對(duì)于人工智能治理的重要性在哪里？

田天：人工智能對(duì)社會(huì)帶來(lái)的一些風(fēng)險(xiǎn)，其實(shí)恰恰是因?yàn)榧夹g(shù)局限性或者先天缺陷。因此，技術(shù)治理對(duì)于人工智能的治理來(lái)說(shuō)至關(guān)重要。人工智能治理，是一項(xiàng)系統(tǒng)化工程，既需要法律規(guī)制、倫理規(guī)范，更需要技術(shù)防范，這是“魔高一尺、道高一丈”的對(duì)抗。

人工智能本身是一項(xiàng)新的技術(shù)，如果考慮治理時(shí)脫離技術(shù)，很可能限制行業(yè)的發(fā)展。什么都不使用，當(dāng)然什么問(wèn)題都沒(méi)有，但既要發(fā)展，又要治理，就只能用更領(lǐng)先的新技術(shù)來(lái)彌補(bǔ)現(xiàn)有技術(shù)不符合安全要求的點(diǎn)，所以本質(zhì)上治理也要求技術(shù)的進(jìn)步。

NBD：你是怎么看待人工智能的發(fā)展和治理之間的這種平衡的？

田天：人工智能技術(shù)實(shí)際上是價(jià)值中立的，沒(méi)有有益和有害之分，它就如同新時(shí)代的“火”。為人類(lèi)創(chuàng)造價(jià)值還是給人類(lèi)帶來(lái)傷害，完全取決于手持火把的人去怎么用。

在我看來(lái)，人工智能的發(fā)展和治理，并非此消彼長(zhǎng)的關(guān)系，而是兩者深度協(xié)同、相互助益，一定是同步去做，而且是一個(gè)長(zhǎng)期的過(guò)程。技術(shù)應(yīng)用都在發(fā)展，治理肯定也要去發(fā)展。但是我覺(jué)得核心是不要因?yàn)橹卫砭腿プ璧K發(fā)展，該用的一些場(chǎng)景還得去用。

同時(shí)，治理不僅僅是監(jiān)管機(jī)構(gòu)的責(zé)任，AI技術(shù)和產(chǎn)品提供者，也有責(zé)任把治理納入考慮。

NBD：關(guān)于人工智能的治理，你有什么建議可以給從業(yè)者？

田天：加強(qiáng)自身資質(zhì)，不要等有人強(qiáng)制要求了再去做，一方面，這樣對(duì)用戶(hù)是不利的；另一方面，企業(yè)本身做得更安全、更注重隱私，也是產(chǎn)品的競(jìng)爭(zhēng)力。

另外，技術(shù)公司要去發(fā)展更加安全合規(guī)的AI技術(shù)，真正實(shí)現(xiàn)技術(shù)上的突破，把現(xiàn)在需要做權(quán)衡的一些選擇題，逐步發(fā)展到各方面可以同時(shí)兼顧。