每經(jīng)記者 夏冰    每經(jīng)編輯 梁梟    

《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告》正式發(fā)布

圖片來源：主辦方供圖

“可信人工智能”并非新名詞了。隨著可信實踐的深入，產(chǎn)業(yè)界對可信人工智能的認(rèn)識也在不斷深化。

今日（9月1日），在上海舉辦的2022世界人工智能大會可信人工智能論壇上，全球20余位可信人工智能頂尖智腦、政府領(lǐng)導(dǎo)、行業(yè)代表，圍繞可信AI的政策與標(biāo)準(zhǔn)、理論與技術(shù)、應(yīng)用與場景等議題展開探討。

如何解決AI信任危機？

“當(dāng)前，人工智能技術(shù)加快演進，深刻改變?nèi)藗兊纳a(chǎn)生活方式，隨之而來的數(shù)據(jù)隱私、算法歧視、安全風(fēng)險等人工智能治理問題也引起各方的共同關(guān)注。”上海市政府副秘書長尚玉英在論壇上率先提出，發(fā)展可信AI，推動人工智能透明可釋、安全可控、多元包容已經(jīng)成為全球共識，融合可信要素的人工智能產(chǎn)業(yè)生態(tài)成為新時代人工智能發(fā)展的必由之路。

據(jù)IDC相關(guān)數(shù)據(jù)，2021年全球人工智能產(chǎn)業(yè)規(guī)模為3619億美元，預(yù)計在2022年同比增長19.6%，超過4300億美元。

然而，隨著人工智能應(yīng)用的深入，其自身的技術(shù)缺陷以及帶來的決策偏見、使用安全等問題引發(fā)了信任危機，可信成為關(guān)注焦點。而構(gòu)建可信人工智能成為緩解和消除這些擔(dān)憂的必然選擇。

學(xué)術(shù)界率先推開了可信AI的大門，而企業(yè)界則成為實踐可信AI的主要力量。

世界人工智能大會可信人工智能論壇現(xiàn)場

圖片來源：每經(jīng)記者 夏冰 攝

澳大利亞科學(xué)院院士、京東探索研究院院長陶大程從理論層面剖析了可信人工智能中各種支撐技術(shù)，從實踐視角詳述可信人工智能的實踐路徑，對實踐可信人工智能、完善可信生態(tài)提出了方案和建議。

陶大程認(rèn)為，可信AI應(yīng)該研究怎么從以下四方面解決AI的信任危機：穩(wěn)定性，AI系統(tǒng)抵抗各類環(huán)境噪聲、攻擊的能力；可解釋性，AI系統(tǒng)的預(yù)測、決策是否透明、可被人理解；隱私保護，AI系統(tǒng)是否可以保護用戶隱私不被泄露；公平性，AI系統(tǒng)是否公平對待不同群體。

陶大程表示，可信AI研究的方方面面相互聯(lián)系，并不孤立。因此，在建立相關(guān)標(biāo)準(zhǔn)時需要將可信AI作為一個整體來考慮。陶大程提出，實踐中，應(yīng)加強業(yè)務(wù)人員在AI應(yīng)用構(gòu)建中的參與程度，融合業(yè)務(wù)、數(shù)據(jù)、算法、運維，以更好更快地實驗、開發(fā)、部署、管理應(yīng)用，保證交付與運行質(zhì)量，提升各業(yè)務(wù)線獲得的效用與價值。

可信AI仍面臨諸多挑戰(zhàn)

可信已經(jīng)在人工智能產(chǎn)業(yè)各個環(huán)節(jié)中落地，貫穿研發(fā)、生產(chǎn)、經(jīng)營等內(nèi)部全流程，打造出全面融合可信要素的人工智能產(chǎn)業(yè)，涵蓋基礎(chǔ)能力、理論技術(shù)、應(yīng)用場景與產(chǎn)品設(shè)備等多元化模塊。

論壇上，為推動企業(yè)實現(xiàn)業(yè)務(wù)全鏈路可信，護航可信AI走向工業(yè)級落地，螞蟻集團基于大規(guī)模實踐經(jīng)驗，聯(lián)合清華大學(xué)和中國信通院云計算與大數(shù)據(jù)研究所共研一款業(yè)內(nèi)首個適配工業(yè)級應(yīng)用的AI安全檢測平臺，正式發(fā)布向行業(yè)開放使用。

螞蟻集團機器智能部總經(jīng)理王維強從阿里集團基于可信觀的封控技術(shù)角度，談了可信AI從可解釋性、公平性、魯棒性、隱私保護四個維度去推進創(chuàng)新、共建、共生。

“如何量化AI模型的公平，如果不公平原因何在？最終如何讓模型更加公平，因此，AI公平性需要可衡量、可歸因、可優(yōu)化。”王維強談到，從隱私保護技術(shù)角度，通過用戶隱私體系升級，最小化使用用戶客戶端內(nèi)容，識別欺詐、賭博、洗錢等風(fēng)險場景；與合作伙伴的聯(lián)防聯(lián)控，螞蟻開源的可信隱私計算技術(shù)與各互聯(lián)友商通過多方安全計算、聯(lián)合建模等方式，助力生態(tài)高效進行聯(lián)合風(fēng)控，共同控制風(fēng)險，與生態(tài)伙伴隱私技術(shù)共建，形成數(shù)據(jù)最小化。在這方面的落地實踐，也讓融合可信要素的人工智能產(chǎn)業(yè)生態(tài)開始興起。

事實上，目前，人工智能平臺系統(tǒng)與可信理念的融合，在數(shù)據(jù)處理、模型構(gòu)建、部署和支撐服務(wù)等方面還面臨不少挑戰(zhàn)。技術(shù)上，算法脆弱易受攻擊帶來的危險性；黑箱模型導(dǎo)致算法不透明，這些都導(dǎo)致外界無法直觀理解決策背后的原因。

OPPO終端安全領(lǐng)域總經(jīng)理王安宇則表示，從1G到4G時代，用戶的信任不僅僅是產(chǎn)品本身的安全性，還涉及各參與實體之間的互信，數(shù)字化時代的可信內(nèi)涵在于安全性、隱私保護、可靠性、韌性、物理安全。“所以說融合世界的可信在社會空間、網(wǎng)絡(luò)空間、物理空間，而消費者終端安全的趨勢在感知與交互安全。”

在中國信通院云計算與大數(shù)據(jù)研究所內(nèi)容科技部副主任石霖看來，應(yīng)以評測手段推進算法治理落地。他談到，算法應(yīng)用誘發(fā)較多復(fù)雜問題，由于算法不透明、用戶不清楚算法的目標(biāo)和意圖，更談不上對其進行評判和監(jiān)督，信息不對稱導(dǎo)致信任往往難以真正建立。因此，企業(yè)在落實算法治理要求時面臨規(guī)則界定、規(guī)則理解、任務(wù)分解、任務(wù)分配、效果評估等五大關(guān)鍵問題，需要一整套方法論指引。

封面圖片來源：主辦方供圖