每經(jīng)記者 王晶    每經(jīng)編輯 梁梟    

又到了一年一度的烏鎮(zhèn)時間，11月9日，世界互聯(lián)網(wǎng)大會正式開幕。

當(dāng)前，以人工智能（Artificial Intelligence，AI）為代表的新一輪科技改變和產(chǎn)業(yè)變革正在重構(gòu)全球創(chuàng)新版圖，重塑全球經(jīng)濟(jì)結(jié)構(gòu)，既為世界各國創(chuàng)造了更加廣闊的發(fā)展機(jī)遇，也帶來了安全倫理時等方面的風(fēng)險挑戰(zhàn)。身處這一變局之中，如何順應(yīng)信息化、數(shù)字化、網(wǎng)絡(luò)化、智能化發(fā)展趨勢，同時又塑造健康的倫理價值，是人們共同面對的緊迫課題。

今日（11月10日）下午，在世界互聯(lián)網(wǎng)大會分論壇“人工智能與數(shù)字倫理”上，清華大學(xué)人工智能研究院名譽(yù)院長、中國科學(xué)院院士張鈸，中國工程院院士高文，之江實驗室主任朱世強(qiáng)等人工智能與數(shù)字科技領(lǐng)域的知名專家學(xué)者，以及微軟、阿里等人工智能和數(shù)字領(lǐng)域頭部企業(yè)負(fù)責(zé)人，共同圍繞人工智能技術(shù)、應(yīng)用和產(chǎn)業(yè)發(fā)展過程中的安全風(fēng)險治理與數(shù)字倫理建設(shè)，以“人工智能的產(chǎn)業(yè)方向與倫理取向”為主題展開交流。各位嘉賓各抒己見，為推動國際社會人工智能倫理研究和治理體系構(gòu)建等方面碰撞思維、交流互鑒。

AI研究及治理需要全世界不同領(lǐng)域的人員參與

早在上世紀(jì)50年代，美國科幻小說家阿西莫夫就在小說《我是機(jī)器人》中對相關(guān)機(jī)器人提出具有前瞻性的“機(jī)器人三定律”：即“機(jī)器人必須不危害人類，也不允許它眼看人將受害而袖手旁觀；機(jī)器人必須絕對服從于人類，除非這種服從有害于人類；機(jī)器人必須保護(hù)自身不受傷害，除非為了保護(hù)人類或者是人類命令它作出犧牲”。

但是上述提醒并沒有引起人工智能界的重視，因為當(dāng)時人工智能研究還處于探索階段，進(jìn)展緩慢。而隨著人工智能迅猛發(fā)展，曾經(jīng)的“遠(yuǎn)慮”似乎日益成為“近憂”。

對于發(fā)展第三代人工智能的思路，清華大學(xué)人工智能研究院名譽(yù)院長、中國科學(xué)院院士張鈸認(rèn)為：“人工智能的研究和治理都需要全世界不同領(lǐng)域的人員參與和合作，除從事人工智能的研發(fā)和使用人員之外，還需要法律、道德、倫理等不同領(lǐng)域人員的參與，我們需要明晰倫理道德的標(biāo)準(zhǔn)，什么是符合道德和倫理的？不同國家、民族團(tuán)體和個人，都有不盡相同的認(rèn)識，因此需要全球范圍的合作，共同制定出一套符合全人類利益的標(biāo)準(zhǔn)。”

之江實驗室主任、中國人工智能產(chǎn)業(yè)聯(lián)盟副理事長朱世強(qiáng)則認(rèn)為，人工智能是人類智能在機(jī)器領(lǐng)域的延伸，真正的主動權(quán)仍然是掌握在人身上。“現(xiàn)在任何一項技術(shù)只要是人開發(fā)出來的，總有人能夠控制它，所以技術(shù)并沒有原罪，但是技術(shù)的應(yīng)用是有正邪的。”

他以菜刀舉例稱：“菜刀是用來切菜的，菜刀也很多次被用來殺人，但菜刀是沒有原罪的，我們的技術(shù)邏輯是希望‘以道制魔’，用技術(shù)手段把菜刀打造成鋒利的，但是讓它永遠(yuǎn)砍不到人頭上去。這個聽起來有點(diǎn)天方夜譚，但至少應(yīng)該是我們努力的一個方向。”

朱世強(qiáng)表示，在當(dāng)前發(fā)展階段，最重要的任務(wù)仍然是發(fā)展技術(shù)。據(jù)他介紹：“我們正構(gòu)建之江實驗室預(yù)防人工智能危害社會的技術(shù)圖譜，試圖用一種先進(jìn)的技術(shù)來阻止人工智能的濫用和惡意的違法應(yīng)用。”

除了國內(nèi)專家外，2007年圖靈獎獲得者、世界頂尖科學(xué)家協(xié)會會員約瑟夫·斯發(fā)基斯也通過視頻形式進(jìn)行了演講。他是2007年圖靈獎獲得者、國際嵌入式系統(tǒng)研究中心Verimag實驗室名譽(yù)研究主任，曾作為歐洲“卓越網(wǎng)絡(luò)”（Network of Excellence）嵌入式系統(tǒng)設(shè)計研究聯(lián)盟的技術(shù)協(xié)調(diào)人。

多年來，斯發(fā)基斯一直在觀察ICT（信息與通信技術(shù)）和人工智能之間的融合。他認(rèn)為，這種融合越來越快速，ICT和人工智能也共同帶來了自治系統(tǒng)，這是從弱人工智能到通用人工智能的一大進(jìn)展。但如今面對的挑戰(zhàn)是，自治系統(tǒng)過于依賴人工智能賦能的組件。

對于如何實現(xiàn)自治系統(tǒng)，斯發(fā)基斯認(rèn)為，要將人工智能集成到關(guān)鍵應(yīng)用程序中，但現(xiàn)在這還沒有完全實現(xiàn)，因為人工智能還沒有自我解釋的能力，比如解釋神經(jīng)網(wǎng)絡(luò)是如何在如此之多的技術(shù)中學(xué)習(xí)的。

算力會像電力一樣方便使用

討論完人工智能倫理的技術(shù)邏輯，以及數(shù)字倫理的法理與道理后，人工智能及其產(chǎn)業(yè)模式優(yōu)化對未來人類社會生產(chǎn)生活形態(tài)的影響也備受外界關(guān)注。

眾所周知，人工智能技術(shù)可以顯著提升人類效率，尤其在圖像識別、語音識別等領(lǐng)域快速完成識別和復(fù)雜運(yùn)算。此外，面對開放性問題，人工智能技術(shù)亦可通過窮舉計算，找到人類預(yù)料之外的規(guī)律和關(guān)聯(lián)。

在高文院士看來，大模型正在改變?nèi)斯ぶ悄茉诟鱾€領(lǐng)域的一些研究情況和現(xiàn)狀，如自然語言大模型等，但想要訓(xùn)練大模型很重要的一點(diǎn)是要有算力，并且算力對國家經(jīng)濟(jì)的發(fā)展有很大推動作用。

“算力對國家的宏觀經(jīng)濟(jì)發(fā)展有重大影響，與GDP/數(shù)字經(jīng)濟(jì)的走勢呈現(xiàn)正相關(guān)。算力指數(shù)平均每提高一個點(diǎn)，可能會對數(shù)字經(jīng)濟(jì)的增長產(chǎn)生千分之五的貢獻(xiàn)，GDP會有0.18%的提升。不僅如此，算力還將促進(jìn)科學(xué)創(chuàng)新。”高文說道。

那么，未來是否有可能把算力通過一個算力網(wǎng)絡(luò)輸送給各部門、各行各業(yè)呢？高文表示，通過東數(shù)西算等抓手建起算力網(wǎng)，若干年后，算力也會讓用戶像用電一樣方便地使用算力，算力會是一種消費(fèi)。

不過，要想達(dá)到上述理想狀態(tài)，算力還面臨著很多技術(shù)問題。但在國家發(fā)改委的部署與支持下，鵬城實驗室探索中國算力網(wǎng)0.1，2019年啟動中國智算網(wǎng)預(yù)研項目建設(shè)，今年6月完成驗收。高文介紹稱，中國算力網(wǎng)0.1結(jié)束以后目前正在推動中國算力網(wǎng)1.0版的工作，這個工作執(zhí)行期從2022年7月到2025年12月，希望中國算力網(wǎng)1.0完成后，可以集聚更大的算力。

站在企業(yè)的角度，螞蟻集團(tuán)首席技術(shù)官倪行軍認(rèn)為，科技倫理應(yīng)該融入到公司業(yè)務(wù)和產(chǎn)品生命周期中，企業(yè)應(yīng)秉承對用戶、行業(yè)、社會負(fù)責(zé)任的態(tài)度，更好地服務(wù)于數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展和高水平安全。

據(jù)倪行軍介紹，螞蟻集團(tuán)已經(jīng)在無障礙和適老化改造、保證算法公平性、增強(qiáng)算法普惠等方面做了一些工作。

此外，從去年開始，螞蟻集團(tuán)和浙江省內(nèi)一些學(xué)術(shù)機(jī)構(gòu)和同業(yè)發(fā)起成立浙江金融科技倫理委員會，旗下的數(shù)字金融平臺也發(fā)布了平臺自律準(zhǔn)則。今年6月，螞蟻集團(tuán)啟動ESG可持續(xù)發(fā)展戰(zhàn)略，“科技倫理建設(shè)”作為重要子議題上升為集團(tuán)重點(diǎn)工作。

同時，倪行軍還透露，螞蟻集團(tuán)已在公司內(nèi)部成立科技倫理委員會，接下來還將成立顧問委員會，邀請業(yè)界資深的專家學(xué)者，參與和指導(dǎo)科技倫理建設(shè)工作。

封面圖片來源：攝圖網(wǎng)-400094444