每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

北京時(shí)間6月25日～27日，世界經(jīng)濟(jì)論壇第十五屆新領(lǐng)軍者年會(huì)在遼寧大連舉行。在會(huì)議現(xiàn)場(chǎng)，清華大學(xué)蘇世民書院院長(zhǎng)、人工智能國(guó)際治理研究院院長(zhǎng)薛瀾教授接受了《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱NBD）的獨(dú)家專訪。

薛瀾教授認(rèn)為，開(kāi)發(fā)人工智能（AI）系統(tǒng)不能簡(jiǎn)單認(rèn)為越強(qiáng)大越好，AI風(fēng)險(xiǎn)存在“未知的未知”（Unknown unknowns），而這才是最可怕的。因此，AI發(fā)展和治理這兩個(gè)“輪子”必須共同推進(jìn)。

談及AI替代人類工作這一話題時(shí)，薛瀾教授表示，這一次（AI浪潮）可能真的不一樣，在相當(dāng)一段時(shí)間內(nèi)有可能替代的工作更多，創(chuàng)造的新工作相比沒(méi)有那么多。因此要從政策方面幫助被替代的行業(yè)從業(yè)者轉(zhuǎn)崗，而社會(huì)也要考慮如何創(chuàng)造新的就業(yè)機(jī)會(huì)。

薛瀾教授 圖片來(lái)源：每經(jīng)記者 張宏攝

從系統(tǒng)角度優(yōu)化，可縮小AI發(fā)展差距

NBD：您如何評(píng)價(jià)中國(guó)當(dāng)前AI發(fā)展的現(xiàn)狀？中美在AI領(lǐng)域的競(jìng)爭(zhēng)非常激烈，您怎么看待中美之間的發(fā)展差距？

薛瀾：從全球角度來(lái)看，AI技術(shù)發(fā)展非?？臁４竽Ｐ痛_實(shí)是日新月異，各種各樣的模型正不斷（涌現(xiàn)）出來(lái)。總體來(lái)講，中國(guó)一直是跟著全世界前沿的步伐在往前推進(jìn)。當(dāng)然，我們可能因?yàn)樗懔Φ南拗朴幸欢ǖ牟罹啵ㄎ覀儯┠苁冀K跟上，這已經(jīng)是非常了不起的。至于算力問(wèn)題，我們國(guó)家也在努力通過(guò)各種方式來(lái)解決。

現(xiàn)在，有一些專家認(rèn)為，算力固然重要，但除了芯片之外，整個(gè)系統(tǒng)的很多環(huán)節(jié)可以進(jìn)一步優(yōu)化，很多企業(yè)也在這方面努力。這樣，盡管算力有差距，但如果系統(tǒng)做到最好，差距也會(huì)進(jìn)一步縮小。

NBD：對(duì)于AI的治理，各國(guó)和地區(qū)有哪些共識(shí)與不同？

薛瀾：在基本原則上，各國(guó)共識(shí)是大同小異的，比如AI向善、趨利避害。

但是，各國(guó)的具體措施千差萬(wàn)別，主要是因?yàn)椋旱谝?，各?guó)AI發(fā)展水平、應(yīng)用場(chǎng)景和公眾對(duì)技術(shù)的接受程度有差別；第二，各國(guó)在價(jià)值觀念、文化和歷史上也有差異。因此，具體的治理政策和措施上應(yīng)該有很大的不同。

圖片來(lái)源：視覺(jué)中國(guó)-VCG41N1472123004

AI的發(fā)展與治理應(yīng)“雙輪”并行

NBD：您認(rèn)為AI給社會(huì)治理帶來(lái)的最大風(fēng)險(xiǎn)是什么？與歷史上其他新技術(shù)如核能、互聯(lián)網(wǎng)、生物技術(shù)等相比，風(fēng)險(xiǎn)有什么差異？

薛瀾：從本質(zhì)上講，AI帶來(lái)的風(fēng)險(xiǎn)和以前這些技術(shù)的風(fēng)險(xiǎn)是相似的，即可能對(duì)人類最基本的生存問(wèn)題帶來(lái)威脅，例如核武器戰(zhàn)爭(zhēng)、生物醫(yī)學(xué)濫用等帶來(lái)的風(fēng)險(xiǎn)，而AI亦是如此。

AI技術(shù)發(fā)展的特點(diǎn)是特別快，一旦到了一定階段，技術(shù)突飛猛進(jìn)，影響范圍和程度將前所未有。日常生活中，很多服務(wù)和產(chǎn)品背后都有AI技術(shù)的應(yīng)用，其泛在程度也是前所未有的。

應(yīng)對(duì)風(fēng)險(xiǎn)確實(shí)非常困難，因?yàn)樗鼛?lái)的風(fēng)險(xiǎn)可能現(xiàn)在還不知道。技術(shù)應(yīng)用一般需要一段時(shí)間，其風(fēng)險(xiǎn)才會(huì)顯現(xiàn)出來(lái)。

NBD：也就是說(shuō)，發(fā)展與謹(jǐn)慎對(duì)待是并行的。

薛瀾：對(duì)。我們?cè)陲L(fēng)險(xiǎn)治理里邊經(jīng)常提到的一點(diǎn)是“Unknown unknowns”，也就是“未知的未知”，這才是最可怕的。

NBD：您曾談及，在跟國(guó)際專家討論AI發(fā)展時(shí)，提到過(guò)幾條“紅線”，能具體講講嗎？

薛瀾：今年三月份，我們?cè)诒本╅_(kāi)了一個(gè)關(guān)于AI安全的研討會(huì)，很多技術(shù)和治理專家共同討論了AI要避免進(jìn)入的一些紅線。例如，如果AI系統(tǒng)會(huì)產(chǎn)生欺騙行為，就要特別小心，遠(yuǎn)離它。

類似的問(wèn)題提了四五條，說(shuō)到底，不能簡(jiǎn)單認(rèn)為AI系統(tǒng)越強(qiáng)大越好。我們擔(dān)心“未知的未知”，所以需要解決這個(gè)問(wèn)題。

NBD：那么，越安全越好嗎？

薛瀾：當(dāng)然，絕對(duì)的安全也是很難做到的，除非我們就不發(fā)展了！但也有專家認(rèn)為，不發(fā)展才是最大的不安全。所有的科技發(fā)展必然存在潛在風(fēng)險(xiǎn)，所以我們始終得是發(fā)展和治理兩個(gè)輪子共同去推進(jìn)。

AI替代人類工作，怎么辦？

NBD：許多人擔(dān)心，AI會(huì)替代大量人類工作崗位，您怎么看？

薛瀾：對(duì)，這是一個(gè)確實(shí)需要關(guān)注的問(wèn)題。至少?gòu)哪壳皝?lái)看，AI的能力越來(lái)越強(qiáng)，很多與知識(shí)生產(chǎn)、應(yīng)用和傳播相關(guān)的行業(yè)可能都會(huì)受到影響，尤其是傳統(tǒng)的白領(lǐng)工作。這是一個(gè)事實(shí)。

以前，我們認(rèn)為技術(shù)創(chuàng)新會(huì)替代一些工作，但也會(huì)創(chuàng)造新的工作。但這一次，我認(rèn)為可能真的不一樣，在相當(dāng)一段時(shí)間內(nèi)有可能（AI）替代的工作更多，創(chuàng)造的新工作相比沒(méi)有那么多。

NBD：您覺(jué)得替代的工作主要是傳統(tǒng)的勞力型工作，還是有創(chuàng)造力的工作？

薛瀾：目前來(lái)看，很多腦力勞動(dòng)的工作會(huì)受到影響。雖然現(xiàn)在主要替代的是重復(fù)性強(qiáng)的腦力工作，但隨著AI系統(tǒng)越來(lái)越強(qiáng)大，復(fù)雜的腦力工作也可能被替代。舉例來(lái)講，過(guò)去法官可能需要有助手去整理很多文件資料，現(xiàn)在AI可以輕松應(yīng)對(duì)。

NBD：從政策上，我們應(yīng)該如何保證就業(yè)不受負(fù)面影響？

薛瀾：首先要監(jiān)測(cè)和觀察AI技術(shù)對(duì)就業(yè)的影響，掌握事實(shí)情況。其次，要及時(shí)提供更多培訓(xùn)，幫助被替代的行業(yè)從業(yè)者轉(zhuǎn)崗，承擔(dān)新的工作。因?yàn)椋ˋI）可能創(chuàng)造了許多就業(yè)機(jī)會(huì)，但我們過(guò)去不知道有這樣的需求。同時(shí)，社會(huì)也要考慮如何創(chuàng)造新的就業(yè)機(jī)會(huì)，并采取多元化的就業(yè)和生活方式。

封面圖片來(lái)源：每經(jīng)記者 張宏攝