每經(jīng)記者 楊棄非    每經(jīng)編輯 楊歡

圖片來源：每經(jīng)記者 韓陽 攝

“我晚上甚至難以入眠，滿腦子都在思考如何推進(jìn)人工智能倫理的全球合作。”作為ICGAI（國際人工智能治理大會）的發(fā)起人，已滿頭白發(fā)的耶魯大學(xué)生物倫理學(xué)中心科技與倫理學(xué)科主任溫德爾·瓦拉赫（Wendell Wallach）言辭懇切。在去年9月，主持了集結(jié)眾多人工智能行業(yè)領(lǐng)袖的紐約峰會后，瓦拉赫又現(xiàn)身中國——推動更多利益相關(guān)方加入到構(gòu)建全球人工智能倫理與治理的工作中來，是他此行的重要目的。

今年4月，歐盟出臺《人工智能倫理導(dǎo)則》；在不久前舉行的第三屆世界智能大會上，全國政協(xié)副主席、中國科協(xié)主席萬鋼提出，將人工智能道德倫理研究列入中國人工智能發(fā)展的“新策略”。種種跡象表明，人工智能已掀起了倫理優(yōu)先的全新發(fā)展模式，瓦拉赫等國內(nèi)外學(xué)者進(jìn)一步認(rèn)為，應(yīng)該將“戰(zhàn)線”再拉至全球?qū)用妗?/p>

“盡管人工智能仍處于起步期，但發(fā)展速度驚人。” 5月21日，在太和智庫主辦的中國人工智能倫理與治理網(wǎng)絡(luò)構(gòu)建研討會上，太和智庫歐洲中心主任、高級研究員托斯登·耶里尼克指出，“人工智能將帶來‘革命的終結(jié)’，進(jìn)而影響全人類發(fā)展軌跡。為避免不可逆的災(zāi)難，有必要進(jìn)行跨國的倫理治理。”

對于人工智能這樣的新興領(lǐng)域，多認(rèn)為應(yīng)審慎監(jiān)管，但如何把握倫理治理的度？在各國爭相搶占技術(shù)與產(chǎn)業(yè)應(yīng)用制高點(diǎn)時，又如何建立合作的共識？在接受《每日經(jīng)濟(jì)新聞》記者的專訪時，耶里尼克就上述人工智能領(lǐng)域的國際焦點(diǎn)話題，一一作出解答。

顛覆性的人工智能如何向善？

人工智能的發(fā)展有多快？數(shù)據(jù)顯示，僅2017年，全球新成立人工智能創(chuàng)業(yè)公司1100家，人工智能領(lǐng)域共獲得投資152億美元，同比增長141%。而麥肯錫發(fā)布的一項(xiàng)研究報告指出，到2030年，約70%的公司將采用至少一種形式的人工智能，人工智能新增經(jīng)濟(jì)規(guī)模將達(dá)到13萬億美元。

被認(rèn)為是第四次產(chǎn)業(yè)革命核心的人工智能，正在掀起新一輪產(chǎn)業(yè)的改造浪潮。 “人工智能+”接棒“互聯(lián)網(wǎng)+”，成為經(jīng)濟(jì)新的賦能手段。但在耶里尼克看來，人工智能更大的影響將發(fā)生在整個社會領(lǐng)域。

“與以前的產(chǎn)業(yè)革命不同，人工智能不是一個階段性的產(chǎn)業(yè)革命，它將帶來一種‘革命的終結(jié)’。”耶里尼克指出，“在產(chǎn)業(yè)革命的過程中，人類始終處于主宰的位置，人類智力對產(chǎn)業(yè)革命的作用是無可替代的。但隨著人工智能開始引領(lǐng)革命，將出現(xiàn)能夠與人類智力相抗衡的事物。”

改變已經(jīng)悄然上演。人工智能取代人力已不是新聞，與此同時，在人工智能技術(shù)的支持下，通過人臉識別改變照片甚至視頻的做法引起更多人的關(guān)注。

“它改變的是人與人之間、人與技術(shù)之間的關(guān)系。”耶里尼克分析道，“比如，當(dāng)機(jī)器把人從工作中解脫出來，人通過工作來實(shí)現(xiàn)自我認(rèn)知的方式可能就會產(chǎn)生改變；對于一些普世標(biāo)準(zhǔn)，比如如何定義最低收入，在由人工智能主導(dǎo)和未得到人工智能改造的國家中，將產(chǎn)生巨大的觀念差異。”

“人工智能實(shí)際上是在重新定義‘人’。”在接受《每日經(jīng)濟(jì)新聞》記者采訪時，中國人民大學(xué)國際關(guān)系學(xué)院教授王義桅提到，當(dāng)有了人工智能參與后，國家競爭力定義將受到根本影響，這實(shí)際上是對規(guī)則本身的重塑。

當(dāng)一切回到原點(diǎn)，人類的發(fā)展軌跡就成為一個需要考慮的問題。“我們要避免走向錯誤的方向，必須要進(jìn)行干預(yù)，并找到好的應(yīng)對措施。這會是一個很長的過程，可能會直到所有‘改革’的結(jié)束。”耶里尼克說道。

制度建立與國際協(xié)作應(yīng)前置

正因如此，人工智能的發(fā)展與以前的數(shù)次工業(yè)革命中的新技術(shù)都不相同——按照耶里尼克所說，盡管人工智能還處于發(fā)展的初級階段，但關(guān)于倫理的討論和制度的建設(shè)已被早早提上日程。

一個典型的例子發(fā)生在歐盟。歐盟于去年通過了《通用數(shù)據(jù)保護(hù)條例》后，又在今年4月快馬加鞭地發(fā)布了《人工智能倫理導(dǎo)則》，據(jù)智庫機(jī)構(gòu)數(shù)據(jù)創(chuàng)新中心（Center for Data Innovation）的高級政策分析師艾琳·奇沃特（Eline Chivot）分析，該舉動的目的是以倫理標(biāo)準(zhǔn)確定歐盟在全球人工智能發(fā)展中的地位。

領(lǐng)先科研與產(chǎn)業(yè)發(fā)展的倫理制定，亦成為越來越多國家的做法。中國科技部部長王志剛?cè)涨巴嘎?，正在加緊研究起草人工智能治理準(zhǔn)則，近期將向全社會發(fā)布。而在美國，一些州已經(jīng)發(fā)布了以州為單位的導(dǎo)則。

有觀點(diǎn)指出，這種做法的效果存在兩面性——在提供更穩(wěn)定的政策土壤與可信賴的合作機(jī)制的同時，它也可能會限制企業(yè)和機(jī)構(gòu)在該領(lǐng)域自然的創(chuàng)新本能與發(fā)展機(jī)遇。

“需要分清的是，是推進(jìn)人工智能產(chǎn)業(yè)本身的發(fā)展，還是要促進(jìn)全行業(yè)的創(chuàng)新能力。”耶里尼克認(rèn)為，“不加以限制的后果是，一個‘巨無霸’公司可能很快就掌控了行業(yè)內(nèi)的全部機(jī)會，難以形成企業(yè)共同成長、創(chuàng)新的健康環(huán)境。同時，科技也應(yīng)該真正用于服務(wù)社會。”

他提到了一種自我監(jiān)管的方式。“人工智能可以做到在設(shè)計層面擁有某種自我意識，幫助避免人類在為其制定制度時可能擁有的偏見；那么，也可以設(shè)計一種方式，讓人工智能自己管理自己。”耶里尼克說。

而在研討會現(xiàn)場，許多人也指出，作為一大國際議題，人工智能更需要來自國際層面的共同治理，特別是諸如氣候變暖等全球性議題，由于各國國內(nèi)缺乏變革動力時、難以進(jìn)行有效國際合作，更應(yīng)該提前部署在人工智能領(lǐng)域的國際合作，揚(yáng)長避短。

“這實(shí)際上包含了一種多邊主義的觀念。”耶里尼克向記者解釋稱，“由于人工智能本身的‘跨界’屬性，自然需要鼓勵更多利益相關(guān)者和利益相關(guān)國參與。”

中、美、歐盟可構(gòu)建“三角框架”

但與許多國際合作類似，在人工智能倫理治理上，尚未形成一個有約束力的、能夠有效協(xié)調(diào)各國和地區(qū)間競爭關(guān)系的合作機(jī)制。

在2017年舉行的“向善的人工智能”（Beneficial AI）會議上，由844名人工智能和機(jī)器人專家聯(lián)合簽署了一項(xiàng)“阿西洛馬人工智能原則”，提出了全球人工智能領(lǐng)域發(fā)展的普世原則，這也是人工智能領(lǐng)域較早、較全面的國際合作指導(dǎo)原則。

此后，盡管也有其他的跨國人工智能合作框架誕生，但大都與此類似——提出的原則相似，管理也主要以一種松散的模式——即耶里尼克提到的“軟治理”。

“由于政府的治理存在一定的滯后性，需要這種靈敏的治理方式，只提供治理框架，在治理過程中不斷根據(jù)實(shí)際情況進(jìn)行動態(tài)調(diào)整，以跟上科技與產(chǎn)業(yè)的變化速度。”耶里尼克向記者如是介紹。

而與靈活性同時存在的是，軟治理難以彌合國家或地區(qū)間的不同點(diǎn)，這不僅體現(xiàn)在仍進(jìn)行中的關(guān)于人工智能的競爭，同時，倫理層面的合作會更多牽動到文化差異。

“單獨(dú)看中國、美國和歐盟，文化、價值觀與倫理觀的差異確實(shí)存在。”據(jù)耶里尼克觀察發(fā)現(xiàn)，當(dāng)談到人工智能的倫理，美國傾向于談利益、個人價值的實(shí)現(xiàn)，歐洲更關(guān)注社會融合和隱私保護(hù)的問題，而在中國，對和諧的強(qiáng)調(diào)以及如何治理則是討論的共同點(diǎn)。

針對三方的差異，中國人民大學(xué)國際關(guān)系學(xué)院教授王義桅在接受《每日經(jīng)濟(jì)新聞》記者采訪時，提出了一種合作模式：中國、美國與歐盟各施所長，構(gòu)建一種三角形的合作框架。

在耶里尼克看來，在這種框架下，中國還可以發(fā)揮文化優(yōu)勢，比如將“利他主義”的思想貢獻(xiàn)至有關(guān)人工智能倫理的大討論中，供各方互學(xué)共鑒，使中國更好地加入人工智能全球發(fā)展議程的設(shè)置中。