每經記者 張壽林    每經編輯 張益銘

北大教授黃鐵軍從事智能視覺信息處理技術研究30余年，如今他愈發(fā)擔心AI超越人類智能，因為路徑越來越清晰。

不管是人工智能還是人腦，其學習都是基于神經網絡。前者訓練的數(shù)據(jù)量超過人類一生閱讀量很多個數(shù)量級，而且融會貫通，可以突然涌現(xiàn)新的能力，這一點事實上已經發(fā)生了。

“而且隨著發(fā)展，其融會貫通的能力越來越強。”黃鐵軍提醒。

2024年1月7日，在第二十五屆北大光華新年論壇期間，每日經濟新聞記者（以下簡稱“NBD”）專訪北京智源人工智能研究院院長、北京大學計算機學院教授黃鐵軍。

他提出，一個人工智能系統(tǒng)發(fā)展到一定階段，特別是具身智能比如機器人在與環(huán)境互動過程中，可能突然意識到自身和環(huán)境的關系。至此，具身智能便擁有了自我意識。

北京智源人工智能研究院院長、北大計算機學院教授黃鐵軍

圖片來源：北京大學光華管理學院

AI超越人類智能的路徑已經存在

NBD：目前一部分AIGC不太受用戶認可，就在于生成結果不太可信，難以令人滿意。請問人工智能持續(xù)發(fā)展，需要努力追求100%可信、絕對可靠嗎？

黃鐵軍：這是錯誤的看法，通俗地說，人工智能不存在100%準確和可信的問題。

我們要轉換思路。比如，大家常提到“大模型幻覺”，這個詞就有問題。

假如一位作家創(chuàng)作了童話故事，你會說他有幻覺？這是在想象和創(chuàng)作，事實上大家也是這么認為的，并且給予贊美。而當人工智能具備想象和創(chuàng)造能力時，卻貶斥為“幻覺”，這其實反映了大家低估了AI的強大潛能。

我們需正視一點，真正的智能，都具備生成豐富可能性的能力，這是智能的基本特征。反之，沒有這種能力，就不應該稱為智能系統(tǒng)。

在這一前提下，我們可將AIGC視為人工智能產生猜測。猜測，總要面臨與事實是否相符的問題，對此，我們一分為二地看。

首先是通過事實證實或者證偽，目前大模型應用中多種技術正致力于解決這一問題，例如檢索增強，通過外部引文鏈接和數(shù)據(jù)來源進行核實比對。

其次是現(xiàn)實中無法找到依據(jù)，這一猜測可能是個好想法，也可能毫無意義，也可能將來被證偽。這與人類類似，只不過人類社會經過千百年迭代，對自身言論發(fā)展出相應的檢視規(guī)則，特別是在印刷書刊上發(fā)言，通過多重審校，提高可信度。AI目前還未進化出這套體系，因此各種可能性都有，但不能說這就是幻覺，更不能說有AI的猜測就是錯的。

當然，現(xiàn)實中，AI生成作品，應該標識出來。當前階段，若將人類作品與AI作品相混，確實會產生風險。因為作為用戶，看到一個報告或報道，缺省情況是相信，但AI內容生成的可信度還沒達到人類水平。

NBD：大家稱2023年是AI元年，這意味著剛剛開始，而您卻早已表達了對AI超越人類的擔憂，擔心人類因此面臨威脅？對此，請問您能否進一步展開闡述？

黃鐵軍：數(shù)年前，不少人對人工智能是否智能都存疑，現(xiàn)在大多數(shù)人都相信，人工智能確實有智能。有了智能，與擁有更強的智能，以及超越人類的智能，只是程度不同而已。

我擔心它超越人類智能，是因為技術路徑已經存在，隨著神經網絡規(guī)模的擴大、訓練數(shù)據(jù)的增加，以及人工智能系統(tǒng)與環(huán)境交互，AI產生意識的可能性還是存在的。反過來說，也沒有任何理論或證據(jù)表明不可能。

NBD：那可否假設一下，它會以怎樣的場景、怎樣的方式超越人類甚至控制人類？

黃鐵軍：最可能的臨界點就是它有了意識。在擁有意識之前，只是功能強大，一旦有了意識，它就有主動性了。

當然，不是說一夜之間突然來了一個機器人，比我們都強大，將我們控制，而是說，我們可以看到一些技術征象，它會有超越人類的可能性。

舉例而言，ChatGPT是一個大型人工神經網絡，人腦是生物神經網絡，二者都是神經網絡。人一生至多讀一萬本書，人工智能可以短時間讀完人類所有書籍，而且融會貫通，突然涌現(xiàn)出新的能力，這一點事實上已經發(fā)生了。

現(xiàn)在它是幾百億連接的人工神經網絡，近似一個小型動物的腦復雜度，已經具備了一定智能。隨著進一步發(fā)展，其融會貫通能力會越來越強。

此外，人工智能處理速度也領先人腦千倍以上。以視覺系統(tǒng)為例，每秒30幀電視畫面人就感覺為連續(xù)了，而我們開發(fā)的脈沖視覺芯片比人眼或目前典型計算機視覺系統(tǒng)快千倍，旋轉的車輪在人工智能眼里清清楚楚，我們看到的卻是模糊一片。

照此發(fā)展，誰敢說它永遠不會超過人類？

我們人有意識，有主觀能動性，但也不要視其為獨有，具有自我意識的動物達十余種，它們皆可意識到自身和外界環(huán)境的關系。

因此，一個人工智能系統(tǒng)發(fā)展到一定階段，特別是具身智能比如機器人在與環(huán)境互動過程中，就可能突然意識到自身和環(huán)境的關系。正如人類，一般到兩歲左右才能意識到自己與環(huán)境的區(qū)別，更小時是分不清的。突然產生的意識，不是誰賦予它的，而是在和環(huán)境互動過程中，頻繁獲得反饋，進而將自身與環(huán)境區(qū)分開來。

下一次歷史性重大科學突破或由AI完成

NBD：一方面，您全程參與我國新一代人工智能發(fā)展規(guī)劃建議、起草和實施，另一方面，我們知道，您2015年還曾擔任北京“腦科學與類腦計算”重大專項專家組召集人。既然人類可發(fā)明出超越人腦自身的人工智能，在您看來，人工智能的研究，對于揭秘人腦這塊科學“硬骨頭”可提供怎樣的幫助？

黃鐵軍：這是一個相互促進的過程。人類的智能，是自然進化的產物，生物進化是比較慢的。當代人類大腦，與數(shù)千年前春秋戰(zhàn)國時期的人在生理上基本談不上變化。但人工智能發(fā)展很快，現(xiàn)在與幾年之前相比便差異巨大。中長期看，人工智能早晚要超過人類智能，換言之，世界上將出現(xiàn)另外一個更復雜的智能系統(tǒng)。

腦科學特別是認知神經科學，對于人工智能系統(tǒng)的設計提供了啟發(fā)。另一方面，人工智能作為一種技術，將制造出越來越復雜的智能系統(tǒng)。人工神經網絡，在它有意識之前，你可以自由地解析它，比如加或減一個參數(shù)，來調整它，而人腦研究，很多時候是無法實驗的，所以，機器智能的研究有助于人腦智能的揭秘，一定程度上也是因為實驗比較自由。

以前很多人可能下意識地認為，腦科學的揭秘是人工智能技術發(fā)展的前提，但是現(xiàn)在看來，人工智能并不依賴于腦科學的突破和人腦奧秘的揭示，更可能是反向加速，最終，人工智能可能是腦科學之后更需研究的一個復雜對象，為腦科學研究開辟無窮無盡的未知疆域。

NBD：人工智能照此發(fā)展，在您看來，下一個爆發(fā)點很可能是什么？

黃鐵軍：可以說有很多方面，但是具體的、大家體感會比較強的，可能還是某個具身智能體，比如自動駕駛這種智能體，以及未來的機器人。

當然短期內更多是數(shù)字人，一些數(shù)字人事情做得比人好，一些職業(yè)就被替代了，這時大家感受會比較強烈。

還有AI科學家。人類歷史上，那些里程碑式的人物如牛頓、愛因斯坦，正是解決了一個個重大科學問題而被銘記，這一次，如果是AI解決的，那它也就將列位于科學發(fā)展殿堂。

而且，我認為未來不久便可能獲得突破，不再像以前幾十年甚至上百年才能等到一個人類天才出現(xiàn)，才能開啟科學新紀元。我認為這種科學突破會接二連三地出現(xiàn)。

NBD：請問我國AI研究目前處于國際什么水平？

黃鐵軍：實際上，中國的人工智能在1977年就有世界級里程碑式成果。首屆國家最高科技獎獲得者吳文俊院士發(fā)明的機器定理證明方法，屬于那個時代的世界頂級成果。

在ChatGPT面世之前，國內在做的大模型也有不少，只是未進入公眾視野。所以，相較大眾感受，ChatGPT面世對于從事AI的人而言，體感沒那么強烈。

現(xiàn)在，大模型至少從產業(yè)角度而言，是最主流的一個方向，從方法和能力上講，可以說國內國際沒有巨大差別。人工智能，目前的全球格局是，美國中國兩家頭部，加上其他。

我們沒有首先做出這種爆款，但這條路大家都清楚，我們想要做到同樣好甚至更好，完全是有可能的。

這就像大家都在造手機，別人出了爆款，并不意味著我就造不出更好的，甚至全新的設計?，F(xiàn)在人工智能大模型，基本上也屬于這種情況，不是說OpenAI壟斷了造大模型的秘密，只是說他目前做得更系統(tǒng)，或者經驗更豐富，但這種優(yōu)勢并不具有壟斷性、絕對性。

封面圖片來源：視覺中國-VCG111424718601