每經(jīng)記者 李孟林    每經(jīng)編輯 蘭素英    

OpenAI的強(qiáng)大性能不僅讓全球“打工人”都感到緊張，業(yè)界大佬們也感到步子邁得太快了，需要暫停一下，評(píng)估其中的風(fēng)險(xiǎn)。

北京時(shí)間3月29日，由圖靈獎(jiǎng)得主、深度學(xué)習(xí)三巨頭之一約書(shū)亞·本吉奧（Yoshua Bengio），埃隆·馬斯克，《人類(lèi)簡(jiǎn)史》作者尤瓦爾·赫拉利等人聯(lián)名發(fā)表公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，為期至少6個(gè)月，以確保人類(lèi)能夠有效管理其風(fēng)險(xiǎn)。暫停工作應(yīng)該是公開(kāi)且可以證實(shí)的，如果AI實(shí)驗(yàn)室不能快速暫停，各國(guó)政府應(yīng)該實(shí)行暫停令。

截至發(fā)稿，這份公開(kāi)信已經(jīng)征集到1128份簽名。

圖片來(lái)源：futureoflife.org

OpenAI創(chuàng)始人：AI需要政府與社會(huì)的共同監(jiān)管

公開(kāi)信指出，AI現(xiàn)在已經(jīng)能和人類(lèi)競(jìng)爭(zhēng)，將給人類(lèi)社會(huì)帶來(lái)深刻的變革。在這個(gè)關(guān)鍵時(shí)刻，我們必須思考AI的潛在風(fēng)險(xiǎn)：假新聞和宣傳充斥信息渠道、大量工作被自動(dòng)化取代、人工智能甚至有一天會(huì)比人類(lèi)更聰明、更強(qiáng)大，讓我們失去對(duì)人類(lèi)文明的掌控。這些問(wèn)題不應(yīng)該交給“未經(jīng)民選的科技領(lǐng)袖”來(lái)決定。

然而，各大AI實(shí)驗(yàn)室為了開(kāi)發(fā)和應(yīng)用更加強(qiáng)大的人工智能，最近幾個(gè)月已經(jīng)陷入了“失控”的競(jìng)賽，甚至連AI系統(tǒng)的創(chuàng)始人也并不能完全理解、預(yù)測(cè)和有效控制其風(fēng)險(xiǎn)，相應(yīng)的計(jì)劃和管理工作沒(méi)有跟上。

實(shí)際上，面對(duì)OpenAI產(chǎn)品在全球的火爆程度，OpenAI創(chuàng)始人兼CEO山姆·阿爾特曼自己也感到有些害怕。他近日在接受媒體采訪時(shí)表示，自己對(duì)AI如何影響勞動(dòng)力市場(chǎng)、選舉和虛假信息的傳播有些“害怕”。AI需要政府和社會(huì)共同參與監(jiān)管，用戶反饋和規(guī)則制定對(duì)抑制AI的負(fù)面影響非常重要。

《每日經(jīng)濟(jì)新聞》注意到，在簽名名單里的尾部，赫然出現(xiàn)了阿爾特曼的名字。然而，由于簽名是公開(kāi)征集，尚無(wú)法證明是否是阿爾特曼本人簽署，其本人亦未回應(yīng)。簽名中OpenAI最后一個(gè)字母為小寫(xiě)，或有故意之嫌疑。

圖片來(lái)源：futureoflife.org

簽署人之一、紐約大學(xué)著名AI研究者Gary Marcus也在推特上發(fā)問(wèn)：“是你嗎，山姆？”

圖片來(lái)源：GaryMarcus@twitter

千余名大佬聯(lián)名“發(fā)聲”

第一批簽名人里面可謂大佬云集。

約書(shū)亞·本吉奧因?qū)ι疃葘W(xué)習(xí)的貢獻(xiàn)，在2018年與“深度學(xué)習(xí)之父” 杰弗里·辛頓 (Geoffrey Hinton)、Facebook首席科學(xué)家楊力昆（Yann LeCun）一起獲得了圖靈獎(jiǎng)。三人被稱為“AI教父”。

后兩人雖然沒(méi)有參與公開(kāi)信的簽名，但最近對(duì)OpenAI以及AI領(lǐng)域的快速發(fā)展都表示了擔(dān)憂或批評(píng)。辛頓在近日接受哥倫比亞廣播公司采訪時(shí)表示，AI消滅人類(lèi)“并非不可想象”，人類(lèi)需要警惕AI會(huì)給一小部分公司和政府帶來(lái)巨大的權(quán)力。作為Facebook的AI領(lǐng)頭人，楊力昆則一直對(duì)OpenAI的大語(yǔ)言模型路徑不屑一顧，認(rèn)為其科技并無(wú)特別創(chuàng)新之處。

馬斯克作為OpenAI的共同創(chuàng)始人之一，一直也毫不掩蓋他對(duì)OpenAI的敵意，認(rèn)為其過(guò)商業(yè)化，從開(kāi)源變成了“閉源”，已經(jīng)忘了非盈利和開(kāi)放的“初心”。但最近也有新聞指出，馬斯克之所以如此敵視OpenAI，是因?yàn)?018年?duì)帄ZOpenAI經(jīng)營(yíng)權(quán)失敗，所以撤資走人。

此外，簽名人還包括蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、2020年美國(guó)總統(tǒng)選舉民主黨初選候選人楊安澤、AI經(jīng)典教科書(shū)《人工智能: 一種現(xiàn)代方法》作者Stuart Russell、AI領(lǐng)軍公司DeepMind的一眾研究人員等。

圖片來(lái)源：GaryMarcus@twitter

新聞鏈接：公開(kāi)信原文

正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的，人工智能系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成較大的風(fēng)險(xiǎn)。《阿西洛馬人工智能原則》中指出，高級(jí)人工智能可能代表著地球上生命歷史的深刻變革，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。然而，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字大腦，但目前沒(méi)有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。

現(xiàn)在，人工智能在一般任務(wù)上變得與人類(lèi)一樣有競(jìng)爭(zhēng)力，我們必須問(wèn)自己：我們應(yīng)該讓機(jī)器在信息渠道中宣傳不真實(shí)的信息嗎？我們是否應(yīng)該把所有的工作都自動(dòng)化，包括那些有成就感的工作？我們是否應(yīng)該開(kāi)發(fā)非人類(lèi)的大腦，使其最終超過(guò)人類(lèi)數(shù)量，勝過(guò)人類(lèi)的智慧，淘汰并取代人類(lèi)？我們是否應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)？這樣的決定絕不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開(kāi)發(fā)。同時(shí)，這種信心必須得到驗(yàn)證，并隨著系統(tǒng)的潛在影響的大小而加強(qiáng)。OpenAI最近關(guān)于人工智能的聲明中指出，在開(kāi)始訓(xùn)練未來(lái)的系統(tǒng)之前，可能必須得到獨(dú)立的審查，對(duì)于最先進(jìn)的努力，同意限制用于創(chuàng)建新模型的計(jì)算增長(zhǎng)速度。我們同意，現(xiàn)在就該采取行動(dòng)。

因此，我們呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，時(shí)間至少持續(xù)6個(gè)月。這種暫停應(yīng)該是公開(kāi)的、可核查的，并包括所有關(guān)鍵參與者。如果這種禁令不能迅速實(shí)施，政府應(yīng)該介入并制定暫停令。

人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。這些協(xié)議應(yīng)該確保遵守協(xié)議的系統(tǒng)是安全的。值得一提的是，這并不意味著暫停一般的人工智能開(kāi)發(fā)，只是從危險(xiǎn)的競(jìng)賽中退后一步，限制不可預(yù)測(cè)的研究和開(kāi)發(fā)。

人工智能的研究和開(kāi)發(fā)應(yīng)該重新聚焦于，使目前最先進(jìn)和強(qiáng)大的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠(chéng)。

同時(shí)，人工智能開(kāi)發(fā)者必須與政策制定者合作，大幅加快開(kāi)發(fā)強(qiáng)大的人工智能治理系統(tǒng)。這些至少應(yīng)該包括：專門(mén)針對(duì)人工智能的監(jiān)管機(jī)構(gòu)；監(jiān)督和跟蹤高能力的人工智能系統(tǒng)和大型計(jì)算能力的硬件；出處和水印系統(tǒng)幫助區(qū)分真實(shí)和合成，并跟蹤模型泄漏；強(qiáng)大的審查和認(rèn)證生態(tài)系統(tǒng)；對(duì)人工智能造成的傷害承擔(dān)責(zé)任；為人工智能安全技術(shù)研究提供強(qiáng)大的公共資金以及資源充足的機(jī)構(gòu)，以應(yīng)對(duì)人工智能可能導(dǎo)致的巨大的經(jīng)濟(jì)和政治破壞。

人類(lèi)可以通過(guò)人工智能享受繁榮的未來(lái)?，F(xiàn)在，我們成功地創(chuàng)建了強(qiáng)大的人工智能系統(tǒng)，可以在這個(gè)“人工智能之夏”中獲得回報(bào)，為所有人的明確利益設(shè)計(jì)這些系統(tǒng)，并給社會(huì)一個(gè)適應(yīng)的機(jī)會(huì)。停止使用其他技術(shù)可能會(huì)對(duì)社會(huì)造成災(zāi)難性影響，因此我們必須保持準(zhǔn)備狀態(tài)。讓我們享受一個(gè)漫長(zhǎng)的人工智能夏天，而不是匆忙進(jìn)入秋天（fall，亦可指墜落)。

封面圖片來(lái)源：視覺(jué)中國(guó)-VCG41N1356593648