每經(jīng)記者 夏冰    每經(jīng)編輯 梁梟    

《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告》正式發(fā)布

圖片來源：主辦方供圖

“可信人工智能”并非新名詞了。隨著可信實(shí)踐的深入，產(chǎn)業(yè)界對(duì)可信人工智能的認(rèn)識(shí)也在不斷深化。

今日（9月1日），在上海舉辦的2022世界人工智能大會(huì)可信人工智能論壇上，全球20余位可信人工智能頂尖智腦、政府領(lǐng)導(dǎo)、行業(yè)代表，圍繞可信AI的政策與標(biāo)準(zhǔn)、理論與技術(shù)、應(yīng)用與場(chǎng)景等議題展開探討。

如何解決AI信任危機(jī)？

“當(dāng)前，人工智能技術(shù)加快演進(jìn)，深刻改變?nèi)藗兊纳a(chǎn)生活方式，隨之而來的數(shù)據(jù)隱私、算法歧視、安全風(fēng)險(xiǎn)等人工智能治理問題也引起各方的共同關(guān)注。”上海市政府副秘書長尚玉英在論壇上率先提出，發(fā)展可信AI，推動(dòng)人工智能透明可釋、安全可控、多元包容已經(jīng)成為全球共識(shí)，融合可信要素的人工智能產(chǎn)業(yè)生態(tài)成為新時(shí)代人工智能發(fā)展的必由之路。

據(jù)IDC相關(guān)數(shù)據(jù)，2021年全球人工智能產(chǎn)業(yè)規(guī)模為3619億美元，預(yù)計(jì)在2022年同比增長19.6%，超過4300億美元。

然而，隨著人工智能應(yīng)用的深入，其自身的技術(shù)缺陷以及帶來的決策偏見、使用安全等問題引發(fā)了信任危機(jī)，可信成為關(guān)注焦點(diǎn)。而構(gòu)建可信人工智能成為緩解和消除這些擔(dān)憂的必然選擇。

學(xué)術(shù)界率先推開了可信AI的大門，而企業(yè)界則成為實(shí)踐可信AI的主要力量。

世界人工智能大會(huì)可信人工智能論壇現(xiàn)場(chǎng)

圖片來源：每經(jīng)記者 夏冰 攝

澳大利亞科學(xué)院院士、京東探索研究院院長陶大程從理論層面剖析了可信人工智能中各種支撐技術(shù)，從實(shí)踐視角詳述可信人工智能的實(shí)踐路徑，對(duì)實(shí)踐可信人工智能、完善可信生態(tài)提出了方案和建議。

陶大程認(rèn)為，可信AI應(yīng)該研究怎么從以下四方面解決AI的信任危機(jī)：穩(wěn)定性，AI系統(tǒng)抵抗各類環(huán)境噪聲、攻擊的能力；可解釋性，AI系統(tǒng)的預(yù)測(cè)、決策是否透明、可被人理解；隱私保護(hù)，AI系統(tǒng)是否可以保護(hù)用戶隱私不被泄露；公平性，AI系統(tǒng)是否公平對(duì)待不同群體。

陶大程表示，可信AI研究的方方面面相互聯(lián)系，并不孤立。因此，在建立相關(guān)標(biāo)準(zhǔn)時(shí)需要將可信AI作為一個(gè)整體來考慮。陶大程提出，實(shí)踐中，應(yīng)加強(qiáng)業(yè)務(wù)人員在AI應(yīng)用構(gòu)建中的參與程度，融合業(yè)務(wù)、數(shù)據(jù)、算法、運(yùn)維，以更好更快地實(shí)驗(yàn)、開發(fā)、部署、管理應(yīng)用，保證交付與運(yùn)行質(zhì)量，提升各業(yè)務(wù)線獲得的效用與價(jià)值。

可信AI仍面臨諸多挑戰(zhàn)

可信已經(jīng)在人工智能產(chǎn)業(yè)各個(gè)環(huán)節(jié)中落地，貫穿研發(fā)、生產(chǎn)、經(jīng)營等內(nèi)部全流程，打造出全面融合可信要素的人工智能產(chǎn)業(yè)，涵蓋基礎(chǔ)能力、理論技術(shù)、應(yīng)用場(chǎng)景與產(chǎn)品設(shè)備等多元化模塊。

論壇上，為推動(dòng)企業(yè)實(shí)現(xiàn)業(yè)務(wù)全鏈路可信，護(hù)航可信AI走向工業(yè)級(jí)落地，螞蟻集團(tuán)基于大規(guī)模實(shí)踐經(jīng)驗(yàn)，聯(lián)合清華大學(xué)和中國信通院云計(jì)算與大數(shù)據(jù)研究所共研一款業(yè)內(nèi)首個(gè)適配工業(yè)級(jí)應(yīng)用的AI安全檢測(cè)平臺(tái)，正式發(fā)布向行業(yè)開放使用。

螞蟻集團(tuán)機(jī)器智能部總經(jīng)理王維強(qiáng)從阿里集團(tuán)基于可信觀的封控技術(shù)角度，談了可信AI從可解釋性、公平性、魯棒性、隱私保護(hù)四個(gè)維度去推進(jìn)創(chuàng)新、共建、共生。

“如何量化AI模型的公平，如果不公平原因何在？最終如何讓模型更加公平，因此，AI公平性需要可衡量、可歸因、可優(yōu)化。”王維強(qiáng)談到，從隱私保護(hù)技術(shù)角度，通過用戶隱私體系升級(jí)，最小化使用用戶客戶端內(nèi)容，識(shí)別欺詐、賭博、洗錢等風(fēng)險(xiǎn)場(chǎng)景；與合作伙伴的聯(lián)防聯(lián)控，螞蟻開源的可信隱私計(jì)算技術(shù)與各互聯(lián)友商通過多方安全計(jì)算、聯(lián)合建模等方式，助力生態(tài)高效進(jìn)行聯(lián)合風(fēng)控，共同控制風(fēng)險(xiǎn)，與生態(tài)伙伴隱私技術(shù)共建，形成數(shù)據(jù)最小化。在這方面的落地實(shí)踐，也讓融合可信要素的人工智能產(chǎn)業(yè)生態(tài)開始興起。

事實(shí)上，目前，人工智能平臺(tái)系統(tǒng)與可信理念的融合，在數(shù)據(jù)處理、模型構(gòu)建、部署和支撐服務(wù)等方面還面臨不少挑戰(zhàn)。技術(shù)上，算法脆弱易受攻擊帶來的危險(xiǎn)性；黑箱模型導(dǎo)致算法不透明，這些都導(dǎo)致外界無法直觀理解決策背后的原因。

OPPO終端安全領(lǐng)域總經(jīng)理王安宇則表示，從1G到4G時(shí)代，用戶的信任不僅僅是產(chǎn)品本身的安全性，還涉及各參與實(shí)體之間的互信，數(shù)字化時(shí)代的可信內(nèi)涵在于安全性、隱私保護(hù)、可靠性、韌性、物理安全。“所以說融合世界的可信在社會(huì)空間、網(wǎng)絡(luò)空間、物理空間，而消費(fèi)者終端安全的趨勢(shì)在感知與交互安全。”

在中國信通院云計(jì)算與大數(shù)據(jù)研究所內(nèi)容科技部副主任石霖看來，應(yīng)以評(píng)測(cè)手段推進(jìn)算法治理落地。他談到，算法應(yīng)用誘發(fā)較多復(fù)雜問題，由于算法不透明、用戶不清楚算法的目標(biāo)和意圖，更談不上對(duì)其進(jìn)行評(píng)判和監(jiān)督，信息不對(duì)稱導(dǎo)致信任往往難以真正建立。因此，企業(yè)在落實(shí)算法治理要求時(shí)面臨規(guī)則界定、規(guī)則理解、任務(wù)分解、任務(wù)分配、效果評(píng)估等五大關(guān)鍵問題，需要一整套方法論指引。

封面圖片來源：主辦方供圖