每經(jīng)編輯 杜宇    每經(jīng)實(shí)習(xí)編輯 宋欣悅    

近日，在斯坦福大學(xué)“以人為本”人工智能研究院（簡(jiǎn)稱HAI）五周年慶典上，馬克·安德森（Marc Andreessen）與HAI研究所所長(zhǎng)“AI教母”李飛飛展開了一場(chǎng)深入的爐邊對(duì)話，探討了人工智能的未來發(fā)展、創(chuàng)新生態(tài)系統(tǒng)的構(gòu)建，以及開源在技術(shù)進(jìn)步中的重要性。

馬克·安德森是第一代瀏覽器的締造者。1993年，安德森受到硅谷著名風(fēng)險(xiǎn)投資家吉姆·克拉克的邀請(qǐng)，合作開發(fā)互聯(lián)網(wǎng)瀏覽器。二人合伙成立了Mosaic通訊公司，后更名為網(wǎng)景通訊公司。很快，安德森帶領(lǐng)他的團(tuán)隊(duì)成功開發(fā)出新版本的osaic瀏覽器。

圖片來源：截圖于Youtube

核心內(nèi)容

1、關(guān)于開源受限的后果

如果開源被禁止或受到某種程度的限制，影響將非常重大。禁止開源的話，創(chuàng)業(yè)公司會(huì)紛紛倒閉。所有的發(fā)展基本上都被大公司壟斷，這些公司將永遠(yuǎn)掌握權(quán)力。

2、關(guān)于開源的重要性

現(xiàn)代技術(shù)，現(xiàn)代計(jì)算機(jī)科學(xué)和現(xiàn)代軟件基本上是一個(gè)三角關(guān)系：開源、創(chuàng)業(yè)公司和學(xué)術(shù)界。

3、關(guān)于AI的安全問題

我有一個(gè)九歲的孩子，我希望他能夠注冊(cè)使用互聯(lián)網(wǎng)服務(wù)，并且希望他能有像迪士尼樂園那樣的體驗(yàn)。但我希望他能有一些控制。我認(rèn)為公司在這方面有很大的自主權(quán)。

4、人工智能“一夜成名”

人工智能領(lǐng)域?qū)嶋H上已經(jīng)有80年的歷史了。現(xiàn)在一夜成名，這真的是一件非常了不起的事情。

圖片來源：截圖于Youtube

對(duì)話中，安德森分享了他對(duì)技術(shù)監(jiān)管的看法，特別是關(guān)于預(yù)防原則的討論。他警告說，過度監(jiān)管可能會(huì)阻礙技術(shù)的發(fā)展，以德國(guó)綠黨對(duì)核能的回應(yīng)和美國(guó)尼克松時(shí)期的“獨(dú)立計(jì)劃”為例，指出了監(jiān)管過度可能帶來長(zhǎng)遠(yuǎn)影響。

李飛飛詢問了開源在現(xiàn)代技術(shù)發(fā)展中的角色。安德森認(rèn)為，開源不僅是軟件代碼的自由，更是創(chuàng)新生態(tài)系統(tǒng)的關(guān)鍵：“如果開源以某種方式被禁止或限制，那將是影響非常巨大的。”他警告說，過度的限制可能會(huì)導(dǎo)致初創(chuàng)公司倒閉，創(chuàng)新受限，最終導(dǎo)致技術(shù)發(fā)展被少數(shù)大公司壟斷。

在討論人工智能的信任與安全時(shí)，安德森指出，這些概念已經(jīng)被預(yù)防原則所“劫持”，并可能導(dǎo)致過度的自我監(jiān)管：“信任和安全是一個(gè)術(shù)語，基本上在現(xiàn)代科技公司內(nèi)部，它相當(dāng)于內(nèi)部事務(wù)。”

圖片來源：截圖于Youtube

在討論斯坦福大學(xué)在人工智能領(lǐng)域的歷史和未來時(shí)，安德森表達(dá)了他的期望：“我希望斯坦福大學(xué)能夠捍衛(wèi)知識(shí)自由、學(xué)術(shù)自由、實(shí)驗(yàn)自由、創(chuàng)新自由、開發(fā)自由和部署自由。”同時(shí)，他也強(qiáng)調(diào)了政府在資助人工智能研究中的作用，并對(duì)未來持樂觀態(tài)度。

作為HAI研究所的所長(zhǎng)，李飛飛對(duì)人工智能的未來發(fā)展充滿期待：“我們正處于人工智能的黎明時(shí)期。”她認(rèn)為，HAI將繼續(xù)在技術(shù)創(chuàng)新和跨學(xué)科研究中發(fā)揮重要作用。

以下為李飛飛與馬克·安德森對(duì)話節(jié)選：

李飛飛：

我非常興奮能主持與馬克的爐邊談話，馬克是我多年的好友和同事。我不知道你們對(duì)馬克的背景了解多少，雖然馬克無需過多介紹，但真正讓我印象深刻的是，他在互聯(lián)網(wǎng)初期就已經(jīng)參與其中，是推動(dòng)互聯(lián)網(wǎng)發(fā)展的重要人物之一。而現(xiàn)在，我們正處于人工智能的初期階段，作為硅谷有影響力的風(fēng)險(xiǎn)投資家，馬克所在的公司正處于推動(dòng)人工智能發(fā)展的核心位置。另外，我還想提到的是，馬克在去年寫了一篇非常有影響力的《技術(shù)樂觀主義者宣言》，這篇宣言因其堅(jiān)定地認(rèn)為由自由市場(chǎng)驅(qū)動(dòng)的技術(shù)進(jìn)步對(duì)人類進(jìn)步至關(guān)重要而廣受關(guān)注。

馬克，你一直是振興這個(gè)生態(tài)系統(tǒng)方面的非常積極的倡導(dǎo)者。你相信AI，讓AI發(fā)生，創(chuàng)造AI。今天，我們?cè)谶@里慶祝HAI五周年。我們正處于最新一代人工智能革命的中心。進(jìn)一步闡述。請(qǐng)與我們分享您的想法。

馬克：

首先，很高興能來到這里，看到HAI在過去五年里所做的所有工作，真的非常棒。首先，我認(rèn)為這次對(duì)話的進(jìn)行非常好。你知道，在硅谷的前20年，我們基本上只是在開發(fā)工具。而實(shí)際上，在過去十年里，我才開始描述硅谷在政治和倫理以及這些更大的社會(huì)問題上的角色，我們開發(fā)出所有這些工具后，發(fā)現(xiàn)它們對(duì)社會(huì)和政治系統(tǒng)確實(shí)非常重要，但卻有點(diǎn)措手不及，不知道該如何應(yīng)對(duì)。

為了說明我的觀點(diǎn)，我先講一個(gè)故事，這個(gè)故事可以幫助你了解我的思考方式。如今圍繞社交媒體進(jìn)行的討論已經(jīng)持續(xù)很久了，而現(xiàn)在這種討論也開始出現(xiàn)在互聯(lián)網(wǎng)和人工智能領(lǐng)域。故事大致是這樣的：出現(xiàn)了一個(gè)新事物，我們需要討論它是否會(huì)帶來危害。如果它有害，就需要進(jìn)行控制、監(jiān)管或者停止。這種討論的隱含基礎(chǔ)在科技倫理學(xué)中被稱為預(yù)防原則。

預(yù)防原則是一個(gè)基本的、似乎非常合理的主張，即技術(shù)的發(fā)明者應(yīng)該能夠預(yù)測(cè)它是否會(huì)產(chǎn)生負(fù)面影響。如果會(huì)產(chǎn)生負(fù)面影響，他們有責(zé)任阻止它。

預(yù)防原則有一個(gè)非常有趣的起源。它來自20世紀(jì)70年代德國(guó)綠黨對(duì)民用核電工業(yè)崛起的回應(yīng)。核技術(shù)顯然在20世紀(jì)40年代和50年代作為一種軍事技術(shù)出現(xiàn)。然后到了50年代和60年代，民用核能出現(xiàn)了大發(fā)展，人們開始期待從原子能中獲得無限的能量。

到了70年代，德國(guó)綠黨站出來決定停止核能，并制定了預(yù)防原則，提出只要民用核能開發(fā)商不能證明核能在任何情況下都是完全無害的，就應(yīng)該停止部署?；旧线@個(gè)方法奏效了，核能停止了。

在美國(guó)，這個(gè)想法被采納了。1971年，我出生那年，時(shí)任總統(tǒng)尼克松提出了一個(gè)他稱之為“獨(dú)立計(jì)劃”的計(jì)劃，即到1980年在美國(guó)國(guó)內(nèi)建造一千座核電站。電網(wǎng)改用核電，將使我們完全脫離中東。這將使美國(guó)基本上可以實(shí)現(xiàn)完全清潔、零排放、零碳排放的能源。這將推動(dòng)向電動(dòng)汽車的轉(zhuǎn)變。

然后，他成立了核管理委員會(huì)，阻止了這種情況的發(fā)生。而今天，美國(guó)正在開發(fā)的新核電站為零。如果你看看過去40年民用核電的部署圖表，它基本上完全停止了。對(duì)于任何關(guān)心碳排放氣候的人來說，這無疑是一個(gè)巨大的錯(cuò)失良機(jī)。

回顧過去，我們基本上感到震驚，我們只是覺得，天哪，他們?cè)趺磿?huì)犯下如此可怕的錯(cuò)誤。順便說一句，在過去70年對(duì)民用核能的全面核算中，現(xiàn)在非常清楚，它是最安全的能源形式，與任何其他能源相比，它造成的人員死亡人數(shù)基本上極少。

李飛飛：

你在人工智能中看到了這種危險(xiǎn)？

馬克：

是的。這基本上是相同的討論。

李飛飛：

能再詳細(xì)說說嗎？

馬克：

討論中的假設(shè)是，如果存在潛在危害，那么就應(yīng)該有監(jiān)管、控制、限制、暫停、停止、凍結(jié)，還有各種不同的提議。但這是一種壓倒性的負(fù)面框架，這種風(fēng)險(xiǎn)規(guī)避框架，與預(yù)防原則非常一致，但它是討論的框架。

李飛飛：

讓我們深入討論一下其中一個(gè)，因?yàn)檫@兩個(gè)主題都集中在一個(gè)辯論上，那就是對(duì)開源的激烈辯論?，F(xiàn)在，它正在全國(guó)范圍內(nèi)發(fā)生。在加利福尼亞州，州參議院正在審議關(guān)于監(jiān)管和控制潛在開源的令人不安的法案。你對(duì)此有何看法？

馬克：

關(guān)于開源的討論非常有趣，因?yàn)樗幻枋鰹?，有一維版本，或者一步版本，還有兩步版本。一步版本與預(yù)防原則非常一致。我認(rèn)為當(dāng)前的加州法案反映了這一點(diǎn)。歐盟的《人工智能法案》也反映了這一點(diǎn)。我認(rèn)為加州的法案在某種程度上是基于歐盟的《人工智能法案》，該法案是在立法中實(shí)施的預(yù)防原則，也就是說，人工智能被認(rèn)為是潛在的有害的，因此必須加以控制以防止危害。

無論如何，這就是預(yù)防原則的全部?jī)?nèi)容，這聽起來總是很合理，因?yàn)槟阍趺纯赡芊磳?duì)它呢？但是，重要的是要考慮第二步，特別是關(guān)于開源。

開源，最初這個(gè)術(shù)語的含義是“自由軟件”，意思是我可以下載它，可以查看它。它是一個(gè)白盒子，而不是黑盒子。我可以看到它里面的東西。我可以修改它并且可以從中學(xué)習(xí)。

所以，我認(rèn)為必須問的第二個(gè)問題是，你需要設(shè)計(jì)什么樣的社會(huì)來?yè)碛袌?zhí)行機(jī)制，以執(zhí)行任何形式的開源禁令或限制。你會(huì)探尋人們對(duì)這個(gè)問題的看法，建議的范圍通常是這樣的：我們只需要在每個(gè)芯片上安裝一個(gè)軟件代理，檢查人們是否在運(yùn)行經(jīng)過批準(zhǔn)的開源軟件。在這一點(diǎn)上，我會(huì)說，《1984》并不是一本操作手冊(cè)，我們不應(yīng)該在所有計(jì)算機(jī)上都運(yùn)行軟件代理。這只是第一步，接下來的政策建議會(huì)越來越令人恐懼。我認(rèn)為，這些建議最終在《時(shí)代》雜志上達(dá)到了一個(gè)非常坦誠(chéng)的表達(dá)，大約一年前，艾里澤·尤德科夫斯基在《時(shí)代》雜志上寫了一篇文章，表達(dá)了他的想法。他基本上說，要實(shí)施對(duì)強(qiáng)人工智能和開源的禁令，不僅需要達(dá)到讓奧威爾都臉紅的全面監(jiān)控程度，還需要在全球范圍內(nèi)執(zhí)行，因?yàn)閮H在美國(guó)禁止是不夠的。

所以你需要有一個(gè)全球禁令，當(dāng)然你需要有執(zhí)行全球禁令的機(jī)制。所以你真的要問自己，究竟想要生活在一個(gè)怎樣的社會(huì)，才能執(zhí)行這樣的事情。順便說一下，我站在反對(duì)這一點(diǎn)的那一邊。

李飛飛：

你能談?wù)勎覀優(yōu)槭裁葱枰_源嗎？為什么你要和硅谷這么多的創(chuàng)業(yè)公司合作？為什么開源如此重要？

馬克：

是的，這就是另一種看待這個(gè)問題的方式，即開源在其中扮演什么角色。撇開人類自由的問題不談，這很重要，還有避免引發(fā)第三次世界大戰(zhàn)，這也很重要。另一個(gè)問題是，開源在創(chuàng)新生態(tài)系統(tǒng)中扮演什么角色？我可以告訴你，我的看法是，現(xiàn)代技術(shù)，現(xiàn)代計(jì)算機(jī)科學(xué)和現(xiàn)代軟件基本上是一個(gè)三角關(guān)系：開源、創(chuàng)業(yè)公司（這是我的日常工作）和學(xué)術(shù)界。我坦率地認(rèn)為，如果開源被禁止或受到某種程度的限制，那將是影響非常重大的。

首先，我認(rèn)為創(chuàng)業(yè)公司將會(huì)滅亡，因?yàn)槲覀冑Y助的每一家創(chuàng)業(yè)公司基本上都是建立在開源基礎(chǔ)上的。大家都理所當(dāng)然地認(rèn)為可以使用開源來構(gòu)建新軟件項(xiàng)目。因此，創(chuàng)業(yè)公司就會(huì)倒閉。接下來的一步、兩步，創(chuàng)業(yè)公司紛紛倒閉。因此，所有的發(fā)展基本上都被委托給那些大公司的壟斷集團(tuán)，這些公司將永遠(yuǎn)掌握權(quán)力。

再次問問自己，這真的是你想要的結(jié)果嗎？然后第三點(diǎn)是，學(xué)術(shù)界基本上會(huì)消亡，尤其是計(jì)算機(jī)科學(xué)領(lǐng)域的學(xué)術(shù)研究會(huì)消亡，任何相關(guān)機(jī)構(gòu)都會(huì)消亡。我不知道如果沒有開源，學(xué)術(shù)界還能做什么工作，因?yàn)槲覀円彩情_源軟件的最大提供者之一。

李飛飛：

如果沒有開源，我不知道這里的工作會(huì)發(fā)生什么，因?yàn)槲覀円彩且恍┳畲蟮拈_源軟件提供商。

在您的宣言中，您實(shí)際上使用了“敵人”這個(gè)詞。與這個(gè)詞相關(guān)的是，您談到了技術(shù)倫理、信任和安全等想法，在某種程度上，它也與象牙塔有關(guān)。您剛才提到您關(guān)心學(xué)術(shù)界和生態(tài)系統(tǒng)，我知道您確實(shí)關(guān)心。那么，您如何調(diào)和您在文章中寫的內(nèi)容？您的真正意思是什么？您如何看待學(xué)術(shù)界的這一歷史性時(shí)刻？

馬克：

是的，我先從我使用“敵人”這個(gè)詞開始說起。我在文章中非常明確地提到，我談?wù)摰氖撬枷?，而不是人。因此，我認(rèn)為參與這些事情的任何人都不會(huì)將他們視為敵人。但我確實(shí)認(rèn)為有些想法很糟糕。我認(rèn)為我們生活在一個(gè)有些糟糕想法已經(jīng)變得非常普遍的時(shí)代，這些想法需要受到挑戰(zhàn)，我已經(jīng)闡述過了。

李飛飛：

那么，為什么人工智能中存在信任和安全問題？

馬克：因?yàn)樗?ldquo;劫持”了。這是在公司內(nèi)部實(shí)施的一種預(yù)防原則。對(duì)于那些不了解的人來說，信任和安全基本上是現(xiàn)代科技公司內(nèi)部的一個(gè)術(shù)語。它基本上是一個(gè)內(nèi)部事務(wù)的等價(jià)物，負(fù)責(zé)實(shí)施內(nèi)部限制。這一概念最早開始于互聯(lián)網(wǎng)公司。

我認(rèn)為第一個(gè)設(shè)立信任和安全部門的公司是eBay，用來監(jiān)管互聯(lián)網(wǎng)拍賣。當(dāng)然，如果你要運(yùn)營(yíng)一個(gè)互聯(lián)網(wǎng)拍賣網(wǎng)站，就需要有一個(gè)監(jiān)管功能。我還記得eBay剛開始的時(shí)候，大家都覺得這個(gè)想法不可思議，因?yàn)樵趺纯赡苡腥藭?huì)信任別人呢？

eBay之所以成功有兩個(gè)原因。首先，Pierre Omidyar相信大多數(shù)人都是善良的，所以大多數(shù)人都會(huì)列出合法產(chǎn)品并參與交易。但他也認(rèn)為，擁有一種稱為信任和安全的職能也很重要。

李飛飛：

這是一種很好的、沒有被“劫持”的信任。

馬克：

是的，這是絕對(duì)必要的。

然后，第二階段是社交媒體公司。如果你要為人們提供一個(gè)平臺(tái)來交換信息，你需要有一個(gè)團(tuán)隊(duì)來維護(hù)、監(jiān)控和管理它。但問題總是，你在哪里劃清界限，那些價(jià)值觀是什么？當(dāng)你問這個(gè)問題時(shí)，你馬上就進(jìn)入了政治哲學(xué)的領(lǐng)域，你處于設(shè)計(jì)和治理的領(lǐng)域。

李飛飛：

那么你的底線是什么？比如，你認(rèn)為哪些地方信任和安全最重要，哪些地方超出了你的界限？

馬克：

我認(rèn)為它很復(fù)雜，這些都是非常宏觀的問題。這些是政治結(jié)構(gòu)的核心問題。這些是社會(huì)結(jié)構(gòu)的大問題。這些都是重大的倫理和道德問題。所以這非常復(fù)雜。

具體到公司方面，情況就變得更加復(fù)雜，因?yàn)楣局辽僭诶碚撋鲜撬饺诵袨檎?。而私人行為者可以擁有比公共行為者更受限制的領(lǐng)域。

我有一個(gè)九歲的孩子，我希望他能夠注冊(cè)使用互聯(lián)網(wǎng)服務(wù)，并且希望他能有像迪士尼樂園那樣的體驗(yàn)。我喜歡互聯(lián)網(wǎng)的自由世界，有一天他也會(huì)喜歡這種自由，但我希望他能有一些控制。我認(rèn)為公司在這方面有很大的自主權(quán)。迪士尼的例子就是一個(gè)很好的例子。迪士尼對(duì)樂園內(nèi)的行為準(zhǔn)則有不同的規(guī)定，與奧蘭多街頭的情況不同。我認(rèn)為這些都是好的和合理的。

李飛飛：

那么你認(rèn)為治理從何而來？

馬克：

從根本上講它必須來自領(lǐng)導(dǎo)層，這始終是一個(gè)領(lǐng)導(dǎo)層的問題，它必須在各個(gè)機(jī)構(gòu)中。

李飛飛：

那社會(huì)呢？

馬克：

是的。所以它必須通過（社會(huì)）。這些都是非常活躍的辯論，從社會(huì)層面一直到最高法院。而且還會(huì)有更多這樣的辯論。然后看看公司內(nèi)部。我會(huì)把它描述為我們?cè)谶@個(gè)行業(yè)中是趕上公共汽車的狗。我對(duì)這些平臺(tái)上發(fā)生的事情負(fù)有部分責(zé)任，這確實(shí)很重要。這些系統(tǒng)中發(fā)生的事情真的很重要。這些公司中發(fā)生的事情真的很重要。

我想說，如果這個(gè)行業(yè)被精簡(jiǎn)為兩三四家大公司，這些公司會(huì)獲得監(jiān)管俘獲，我認(rèn)為這是他們正在嘗試做的事情。如果他們基本上與政府聯(lián)合起來，那么我認(rèn)為我們必須處理一系列非常有力的社會(huì)層面問題。

如果在未來幾年存在競(jìng)爭(zhēng)格局，有大公司，有很多初創(chuàng)公司，有開源，有學(xué)術(shù)界，這些領(lǐng)域之間存在某種活力和競(jìng)爭(zhēng)，那么我認(rèn)為，就會(huì)有更多的靈活性，更多不同的方法，我希望看到更多。我希望看到更多，我認(rèn)為這實(shí)際上是一個(gè)非常健康的結(jié)果。

李飛飛：

這就是你我完全同意的地方。

最后，您對(duì)斯坦福高中和斯坦福大學(xué)有什么希望和夢(mèng)想？尤其是我們是世界領(lǐng)先的人工智能跨學(xué)科研究所。您對(duì)我們和我們的角色有什么希望和夢(mèng)想？

馬克：

所以首先說，就像您提到的那樣，我感覺到了人工智能時(shí)代的曙光。因?yàn)楸娝苤?，人工智能領(lǐng)域?qū)嶋H上已經(jīng)有80年的歷史了。

李飛飛：

是的，但我們已經(jīng)經(jīng)歷了這么多困難與挑戰(zhàn)，我們走過了一條漫長(zhǎng)而曲折的道路，才到達(dá)今天的位置。在座的各位可能都知道這一點(diǎn)。

馬克：

Thomas Ridd寫了一本很棒的書，名為《機(jī)器的崛起》，他在書中回顧并真正追溯了機(jī)器的起源。20世紀(jì)30年代，人們實(shí)際上曾爭(zhēng)論過計(jì)算機(jī)是否應(yīng)該是馮·諾依曼機(jī)器，還是應(yīng)該模仿人腦。這是一個(gè)有80、90年歷史的領(lǐng)域。上世紀(jì)80年代人工智能蓬勃發(fā)展。之后出現(xiàn)了一次大蕭條，即專家系統(tǒng)浪潮。所以，我覺得，我甚至不知道歷史上有先例可以孵化這么長(zhǎng)時(shí)間。然后，砰的一聲，結(jié)果證明它成功了。我不知道有多大的驚喜，也許你一直有信心。

李飛飛：

我不知道，就像化學(xué)和物理學(xué)在現(xiàn)代科學(xué)出現(xiàn)之前就已經(jīng)醞釀了幾百年一樣，但你是對(duì)的。你說得有道理。

馬克：

是的。這是發(fā)展80年來的一次一夜成名，這真的是一件非常了不起的事情。我之所以提起這件事，只是因?yàn)樗固垢４髮W(xué)在每一步都發(fā)揮了作用。斯坦福大學(xué)人工智能小組、斯坦福大學(xué)、麻省理工學(xué)院和其他幾所機(jī)構(gòu)有著悠久而豐富的歷史，它們?yōu)閷?shí)現(xiàn)這一點(diǎn)做出了很大貢獻(xiàn)。所以這里的遺產(chǎn)是巨大的。我完全希望在技術(shù)方面繼續(xù)這樣做。