每經(jīng)編輯 杜宇    每經(jīng)實(shí)習(xí)編輯 宋欣悅    

在美國當(dāng)?shù)貢r(shí)間周四，華裔人工智能科學(xué)家、斯坦福大學(xué)教授李飛飛現(xiàn)身于在舊金山舉行的彭博科技峰會，與資深科技記者艾米麗·張深入探討了人工智能的安全與倫理等熱點(diǎn)問題。

核心內(nèi)容

1、關(guān)于“AI教母”

我從未自詡為任何事物的教母。既然男性可以被稱為各種領(lǐng)域的教父，那么女性也完全可以被譽(yù)為教母。因此，我欣然接受了這個(gè)榮譽(yù)。

2、關(guān)于“我們的模型正在耗盡數(shù)據(jù)”

我們?nèi)杂写罅康牟町惢瘮?shù)據(jù)等待挖掘，以構(gòu)建更為定制化的模型。無論是新聞業(yè)、醫(yī)療保健，還是其他不同的企業(yè)垂直領(lǐng)域，都有豐富的數(shù)據(jù)尚未被充分利用。

3、關(guān)于“絕大多數(shù)人對科技公司持懷疑態(tài)度”

我的信任并不是建立在單一的企業(yè)或個(gè)體之上，而是建立在由我們共同構(gòu)建的集體系統(tǒng)和機(jī)構(gòu)之上。

4、關(guān)于人工智能的風(fēng)險(xiǎn)

我更關(guān)注的是那些更為緊迫的、災(zāi)難性的社會風(fēng)險(xiǎn)。我也擔(dān)憂關(guān)于人類滅絕風(fēng)險(xiǎn)的過度炒作。它們更像是科幻小說中的情節(jié)。

5、關(guān)于開源人工智能運(yùn)動

我們倡導(dǎo)這種開放的生態(tài)系統(tǒng)是非常必要的。

李飛飛在舊金山彭博科技峰會與記者談話 圖片來源：截圖于Youtube

在訪談中，李飛飛首先對被賦予“AI教母”這一稱號，展現(xiàn)出開放的態(tài)度，她提到：“雖然這并非我個(gè)人的追求，但它確實(shí)反映了我們對女性在科技領(lǐng)域中領(lǐng)導(dǎo)力的認(rèn)可需求。我希望這能成為一個(gè)催化劑，激勵(lì)更多女性站上科技的舞臺，共同塑造這個(gè)行業(yè)的多元未來。”

談及ImageNet項(xiàng)目，李飛飛分享了她在2007年啟動這一項(xiàng)目時(shí)的初衷：“是基于一種預(yù)見——大數(shù)據(jù)將會成為人工智能發(fā)展的核心驅(qū)動力。”ImageNet不僅驗(yàn)證了數(shù)據(jù)驅(qū)動方法的有效性，還促進(jìn)了深度學(xué)習(xí)技術(shù)的突破，成為AI研究的一個(gè)轉(zhuǎn)折點(diǎn)。她強(qiáng)調(diào)，“在科研道路上，既要有敢為人先的膽識，也要有腳踏實(shí)地的實(shí)踐。”

針對人工智能倫理和政策，李飛飛明確指出：“我們必須清醒地認(rèn)識到，AI的進(jìn)步如同雙刃劍，它在帶來便捷與效率的同時(shí)，也可能引發(fā)隱私泄露、就業(yè)結(jié)構(gòu)變化等復(fù)雜問題。因此，加強(qiáng)公眾教育，提高對AI技術(shù)的普遍理解，以及建立一套透明且負(fù)責(zé)任的監(jiān)管體系，是保護(hù)社會福祉不可或缺的部分。”

李飛飛在舊金山彭博科技峰會與記者談話 圖片來源：截圖于Youtube 

在展望數(shù)據(jù)與合成數(shù)據(jù)的前景時(shí)，李飛飛教授指出，雖然存在數(shù)據(jù)耗竭的擔(dān)憂，但實(shí)際上還有大量未被充分利用的數(shù)據(jù)資源，特別是在特定領(lǐng)域。她認(rèn)為，合成數(shù)據(jù)的應(yīng)用雖充滿潛力，但也伴隨著管理和倫理上的挑戰(zhàn)，要求我們在創(chuàng)新與安全之間找到合適的平衡點(diǎn)。

對于外界關(guān)注的可能創(chuàng)業(yè)項(xiàng)目，李飛飛保持了一貫的神秘感，僅透露：“新的冒險(xiǎn)總是在醞釀中，但更重要的是它們?nèi)绾文苷嬲苿蛹夹g(shù)向善，為社會帶來正面的影響。”

在討論人工智能的信任危機(jī)時(shí)，她強(qiáng)調(diào)：“建立AI的公信力，意味著我們需要通過強(qiáng)有力的制度來保障技術(shù)的透明度和可靠性。適度的監(jiān)管，尤其是在涉及公共安全的領(lǐng)域，是必要的，它能指引技術(shù)走向更有利于社會的方向。”

以下為李飛飛與主持人的對話全文： 

問：“AI教母”，你如何看待這個(gè)賦予你的特別稱呼？ 

李飛飛：我從未自詡為任何事物的教母，但當(dāng)這個(gè)稱號賦予我時(shí)，我確實(shí)對其進(jìn)行了反思。隨后，我意識到，既然男性可以被稱為各種領(lǐng)域的教父，那么女性也完全可以被譽(yù)為教母。因此，我欣然接受了這個(gè)榮譽(yù)。 

問：作為我們時(shí)代最具影響力的計(jì)算機(jī)科學(xué)藝術(shù)家之一，你發(fā)表了數(shù)百篇學(xué)術(shù)論文，并創(chuàng)建了ImageNet數(shù)據(jù)庫，為現(xiàn)代人工智能的發(fā)展奠定了基礎(chǔ)。在你創(chuàng)建ImageNet之初，你有預(yù)見到它會有如此深遠(yuǎn)的影響嗎？ 

李飛飛：ImageNet的構(gòu)思始于2007年，它可能是大數(shù)據(jù)在人工智能算法中作用的一個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)。從科學(xué)的角度出發(fā)，我堅(jiān)信大數(shù)據(jù)將徹底改變我們研究人工智能的方式。然而，我從未設(shè)想過大數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò)和GPU之間的完美融合，這種融合基本上催生了現(xiàn)代人工智能的崛起。至于它所帶來的進(jìn)步速度，更是我未曾預(yù)料的。 

問：你正與喬·拜登總統(tǒng)（Joe Biden）、山姆·阿爾特曼（Sam Altman，OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官）、桑達(dá)爾·皮查伊（Sundar Pichai，谷歌及其母公司Alphabet首席執(zhí)行官）、薩提亞·納德拉（Satya Nadella，微軟首席執(zhí)行官）等可能決定這項(xiàng)技術(shù)未來的環(huán)境中工作。你在國會作證，并成為總統(tǒng)特別顧問團(tuán)隊(duì)的一員。對于那些手握大權(quán)的人，你最想傳達(dá)的信息是什么？ 

李飛飛：事實(shí)上，我傳遞的信息與我在K12夏令營或斯坦福大學(xué)活動中所強(qiáng)調(diào)的并無二致。我們介紹AI課程時(shí)，旨在讓大家認(rèn)識到這項(xiàng)技術(shù)的本質(zhì)，了解它是什么，以及如何在最負(fù)責(zé)任、最深思熟慮的方式下使用它。我們應(yīng)該接受它，因?yàn)樗且环N正在改變我們文明的橫向技術(shù)，帶來了諸多益處，如加速科學(xué)發(fā)現(xiàn)、幫助我們找到癌癥的治療方法、繪制生物多樣性圖譜以及發(fā)現(xiàn)新材料等。但同時(shí)，我們也必須認(rèn)識到人工智能所有可能的后果和潛在的非預(yù)期影響，以及如何負(fù)責(zé)任地開發(fā)和部署這項(xiàng)技術(shù)。我認(rèn)為，在當(dāng)今的談話中，無論是在白宮還是在校園里，保持更多的平衡和深思熟慮都是至關(guān)重要的。

問：我們身處的這個(gè)時(shí)代，我不確定這是否會被視為一個(gè)危機(jī)或轉(zhuǎn)折點(diǎn)，但人工智能模型似乎正在耗盡我們用于訓(xùn)練的數(shù)據(jù)。因此，一些公司開始轉(zhuǎn)向人工智能生成的數(shù)據(jù)和合成數(shù)據(jù)作為訓(xùn)練模型的新途徑。你對此有何看法？這個(gè)問題有多嚴(yán)重？潛在的風(fēng)險(xiǎn)是什么？我們又該如何應(yīng)對？

李飛飛：首先，關(guān)于“我們的模型正在耗盡數(shù)據(jù)”這一觀點(diǎn)，我認(rèn)為它過于狹隘了。我明白你指的是那些大語言模型（LLM）正在消耗互聯(lián)網(wǎng)上的大量數(shù)據(jù)，特別是來自網(wǎng)站、Reddit、維基百科等公開資源。但即便僅從語言模型的角度來看，我們?nèi)杂写罅康牟町惢瘮?shù)據(jù)等待挖掘，以構(gòu)建更為定制化的模型。無論是新聞業(yè)、醫(yī)療保健，還是其他不同的企業(yè)垂直領(lǐng)域，都有豐富的數(shù)據(jù)尚未被充分利用。事實(shí)上，許多行業(yè)尚未全面進(jìn)入數(shù)字時(shí)代，我們尚未觸及的數(shù)據(jù)領(lǐng)域還很多，如醫(yī)療保健、環(huán)境、教育等。因此，我并不認(rèn)為我們正在耗盡數(shù)據(jù)。

問：對于現(xiàn)在越來越多地使用人工智能生成的數(shù)據(jù)來訓(xùn)練模型，你認(rèn)為這是好事還是壞事？這會不會讓我們與原始數(shù)據(jù)來源漸行漸遠(yuǎn)，甚至可能帶來風(fēng)險(xiǎn)？

李飛飛：這個(gè)問題其實(shí)比我們想象的要復(fù)雜得多。生成數(shù)據(jù)的方法多種多樣。例如，在我的斯坦福實(shí)驗(yàn)室中，我們進(jìn)行了大量的機(jī)器人研究和機(jī)器人學(xué)習(xí)。在這些領(lǐng)域，數(shù)據(jù)的重要性不言而喻，因?yàn)橛袝r(shí)我們難以收集到足夠的人類生成數(shù)據(jù)，如動作等。模擬數(shù)據(jù)在這種情況下就顯得尤為重要。至于是否會使我們走上危險(xiǎn)的道路，我認(rèn)為關(guān)鍵在于我們?nèi)绾问褂眠@些數(shù)據(jù)。即使使用人類生成的數(shù)據(jù)，也存在風(fēng)險(xiǎn)；同樣地，模擬數(shù)據(jù)也存在潛在風(fēng)險(xiǎn)。關(guān)鍵在于我們是否以負(fù)責(zé)任、深思熟慮的方式去利用這些數(shù)據(jù)。此外，關(guān)于人類數(shù)據(jù)的整體情況，我們還需要考慮更多因素，如暗網(wǎng)等。因此，問題的核心不在于數(shù)據(jù)的來源是模擬還是真實(shí)，而在于我們?nèi)绾喂芾砗褪褂眠@些數(shù)據(jù)。

問：你正在涉足炙手可熱且競爭激烈的人工智能創(chuàng)業(yè)領(lǐng)域，據(jù)傳你正在籌備一家新公司。能否透露一些相關(guān)信息？

李飛飛：很抱歉，不能。

問：最近我們進(jìn)行了一項(xiàng)關(guān)于人工智能時(shí)代信任度的民意調(diào)查。調(diào)查結(jié)果顯示，沒有人完全信任科技公司能夠安全、可靠地開發(fā)人工智能，絕大多數(shù)人對這些公司持懷疑態(tài)度。如果你需要給大型人工智能公司排名，你最信任的是哪一家？最不信任的又是哪一家？

李飛飛：我的信任并不是建立在單一的企業(yè)或個(gè)體之上，而是建立在由我們共同構(gòu)建的集體系統(tǒng)和機(jī)構(gòu)之上。因此，這可能是一個(gè)具有挑戰(zhàn)性的問題。我不會點(diǎn)名指出我最信任或最不信任的是哪一家公司。

問：在人工智能領(lǐng)域，我們是否也在構(gòu)建這樣的集體系統(tǒng)？

李飛飛：確實(shí)，至少我們在斯坦福的人類中心研究所正在為此努力。我認(rèn)為許多人都在嘗試這樣的路徑。我常常自問，我們還有希望嗎？盡管這是一個(gè)令人深思的問題，但我要說的是，我的希望并不寄托在我個(gè)人的希望上，而是寄托在人的力量上。我不是一個(gè)盲目樂觀的人，但人是復(fù)雜的，我們都有著共同的特質(zhì)。希望在于人，在于我們共同的意志和責(zé)任感。許多事情正在發(fā)生，我們都在行動。許多人都在致力于將這項(xiàng)技術(shù)打造成一項(xiàng)可以信賴的、能夠造福全人類的文明技術(shù)。

問：關(guān)于人工智能的風(fēng)險(xiǎn)，人們常常提到諸如人類滅絕、惡意利用者以及種族偏見等嚴(yán)重問題。你最擔(dān)憂的是哪一個(gè)？

李飛飛：我更關(guān)注的是那些更為緊迫的、災(zāi)難性的社會風(fēng)險(xiǎn)。我也擔(dān)憂關(guān)于人類滅絕風(fēng)險(xiǎn)的過度炒作。我認(rèn)為這些擔(dān)憂已經(jīng)失控了，它們更像是科幻小說中的情節(jié)，雖然它確實(shí)引發(fā)了我們的思考。

問：Meta正在引領(lǐng)開源人工智能運(yùn)動。在你看來，哪些技術(shù)應(yīng)該開放，哪些技術(shù)又應(yīng)該保持封閉？

李飛飛：我認(rèn)為，過去幾百年或一百年的美好之處就在于創(chuàng)新和創(chuàng)業(yè)以及信息的自由交流。因此，我們倡導(dǎo)這種開放的生態(tài)系統(tǒng)是非常必要的。

問：在人工智能領(lǐng)域，你認(rèn)為有哪些重要但未被廣泛討論的話題？我們應(yīng)該開始關(guān)注什么？

李飛飛：這實(shí)際上是一個(gè)很長的列表。我們應(yīng)該更多地討論我們?nèi)绾握嬲O(shè)想并應(yīng)用這項(xiàng)技術(shù)。我與醫(yī)生、生物化學(xué)家、游客、藝術(shù)家和農(nóng)民等各行各業(yè)的人交談過。我們可以想象到，人工智能有很多潛在的應(yīng)用方式，它可以極大地改善人們的生活，使工作更加高效。但我認(rèn)為我們并沒有充分討論這些方面。我們過于關(guān)注災(zāi)難性的一面，而且只有少數(shù)人在討論這些。然而，媒體卻往往放大了這些擔(dān)憂。我認(rèn)為我們并沒有給予那些真正以最具想象力、最富有創(chuàng)造性的方式嘗試?yán)眠@項(xiàng)技術(shù)為世界帶來好處的人足夠的聲音。

問：在你看來，有沒有哪些人或公司讓你覺得他們的言論或行為簡直是“胡說八道”？

李飛飛：對于“胡說八道”這個(gè)描述，我認(rèn)為它主要指向那些過度強(qiáng)調(diào)生存滅絕危機(jī)的言論。我尤其擔(dān)憂美國某些地區(qū)，比如加州的某些法案，它們可能出于良好的初衷，但過度強(qiáng)調(diào)這一點(diǎn)，限制了模型的發(fā)展，甚至可能無意中將開源定為犯罪，并且沒有真正考慮如何評估和衡量這些模型的潛在影響，這確實(shí)讓我感到憂慮。

問：你認(rèn)為我們是否可能過度監(jiān)管人工智能領(lǐng)域？

李飛飛：確實(shí)，我們可能會以某種方式過度監(jiān)管，正如過去我們所經(jīng)歷的一些情況那樣，這可能會傷害到整個(gè)生態(tài)系統(tǒng)。然而，在醫(yī)療保健、交通和金融等實(shí)際應(yīng)用領(lǐng)域，我們也需要考慮適當(dāng)?shù)谋Ｗo(hù)措施，確保技術(shù)的健康發(fā)展。

問：你和拜登總統(tǒng)討論過人工智能的相關(guān)問題嗎？因?yàn)槲抑滥阌邢蛩麉R報(bào)的線路。

李飛飛：關(guān)于我與拜登總統(tǒng)的談話內(nèi)容，我可以與你分享一些。我們確實(shí)討論了對公共部門人工智能進(jìn)行“登月式”投資。你知道，我們身處硅谷的中心，這里匯聚了所有的資源，包括人才、數(shù)據(jù)和算力，但這些都主要集中在私營部門。事實(shí)上，大型科技產(chǎn)業(yè)與美國的公共部門學(xué)術(shù)界在資源方面正逐漸失衡。例如，斯坦福大學(xué)自然語言處理實(shí)驗(yàn)室只有64個(gè)GPU，這種對比令人震驚。因此，我們討論了如何為公共部門提供資源，因?yàn)楣膊块T是美國創(chuàng)新的重要引擎，它提供公共產(chǎn)品，產(chǎn)生科學(xué)發(fā)現(xiàn)，并為公眾提供值得信賴、負(fù)責(zé)任的技術(shù)評估和解釋。

問：最后一個(gè)問題，你一直非常關(guān)注人工智能領(lǐng)域中的性別和種族平等問題。你認(rèn)為這個(gè)問題有多嚴(yán)重？如果不加以解決，將會帶來什么后果？

李飛飛：你一直在這個(gè)問題上發(fā)出強(qiáng)烈的聲音。事實(shí)上，我們在人工智能領(lǐng)域中的女性和少數(shù)族裔的聲音還不夠響亮。盡管我們看到越來越多的女性和不同背景的人進(jìn)入科技和人工智能領(lǐng)域，但我們也看到，他們的聲音往往被忽視或低估。我們需要認(rèn)識到，這些年輕女性、來自不同背景的科技人員，他們的聲音和觀點(diǎn)同樣重要。如果我們不給予他們足夠的關(guān)注和機(jī)會，我們就是在浪費(fèi)寶貴的人力資本。這些人是杰出的思想家、創(chuàng)新者、技術(shù)專家、教育家、發(fā)明家和科學(xué)家，他們的聲音和想法對人工智能的未來發(fā)展至關(guān)重要。如果我們不讓他們發(fā)聲，不聽取他們的想法，不提升他們的地位，我們就是在浪費(fèi)我們共同的人力資本。