每經(jīng)記者 梁宏亮    每經(jīng)實習記者 溫雅蘭    每經(jīng)編輯 張凌霄    

ChatGPT的火爆引發(fā)了近幾年來一次全球性的技術狂歡。兩個月時間內，其月活用戶突破1億，成為史上用戶增長最快的應用之一。

社交媒體推特首席執(zhí)行官埃隆·馬斯克在使用ChatGPT后直呼其“好得嚇人”，甚至斷言“人工智能越發(fā)強大，離對人類產生威脅不遠了”。

對大熱的ChatGPT，復旦大學計算機學院教授黃萱菁團隊也進行了測試，“我們測了幾十萬次，比如讓它做中國的高考題，看看它到底有多么強。” 但結果很出人意料——雖然政史地科目結果很好，但是物理學科一道都沒做對。黃萱菁打趣道：“學物理的人最安全”。

3月11日，在“我們︱WOMEN”2023復旦科創(chuàng)先鋒論壇上，深耕人工智能與自然語言處理領域三十載的黃萱菁教授以《邁向大規(guī)模語言模型》為題，為我們講述了ChatGPT的“前世今生”和最新發(fā)展趨勢。

邁向大規(guī)模語言模型

 “托ChatGPT的福，大規(guī)模語言模型的概念已經(jīng)深入人心。”黃萱菁教授在演講中說到。ChatGPT由 GPT-3.5 模型提供支持，是一種人工智能技術驅動的自然語言處理工具。它不僅能夠自動回答問題、生成文本、翻譯文章、對信息分類、撰寫腳本文案、代碼等，也會承認錯誤、質疑不正確的前提并拒絕不恰當?shù)恼埱??？梢哉fChatGPT是AIGC（人工智能生成內容）最新進展的代表。

“語言模型就是語言的規(guī)律，首先是語法，我們無論學習漢語還是英語等語言，都是從語法開始學起，但是只有語法，我們依然很難捕捉客觀世界紛繁復雜的語言現(xiàn)象，因為語言并不會嚴格按照語法去表達。這個時候，我們就需要使用到數(shù)學工具——概率，在各種語言現(xiàn)象中間去尋找規(guī)律。”黃萱菁對語言模型的基本概念做出簡單介紹。

以Transformer為架構的大型語言模型機器學習系統(tǒng)，采用的神經(jīng)網(wǎng)絡學習能力和模型的參數(shù)規(guī)模成正相關。GPT-2大約由15億個參數(shù)組成，而GPT-3是一個由 1750 億個參數(shù)組成的最先進的語言模型。黃萱菁介紹，近年來，學術界和工業(yè)界開始嘗試在自然語言處理領域應用神經(jīng)網(wǎng)絡方法，預先訓練出大規(guī)模的語言模型，并針對具體場景構建特定數(shù)據(jù)集，供這些大模型在下游任務中通過參數(shù)微調以適配具體任務。

“但是當語言模型變得更強大的時候，就會有一些問題”，黃萱菁說，“一方面廠商出于商業(yè)原因逐漸舍棄開源，OPenAI沒有開放過GPT3模型，只開放API接口，你可以調用，但是拿不到內部細節(jié)，今年新出來的ChatGPT連論文都沒有，只能靠大家去猜測。另一方面用戶也缺乏足夠的計算資源使用大模型，所以我們非常期待國產芯片，能夠讓我們擁有更多的算力去運行大規(guī)模語言模型。”

打開“AI情感計算”之門

2022年12月，埃隆·馬斯克發(fā)了一條推文，他說：“ChatGPT is scary good. We are not far from dangerously strong AI.（ChatGPT厲害得讓人害怕，強大到有危險的人工智能的出現(xiàn)已經(jīng)離我們不遠了。）”

自從ChatGPT 出現(xiàn)，越來越多的人開始討論人工智能是否會顛覆他們的生活、他們的工作是否會被人工智能取代。但是到目前為止，還沒有任何人工智能通過了圖靈測試，ChatGPT也不例外。

在黃萱菁看來，未來一段時間內，ChatGPT還不足以完全替代某一個崗位，但將大大促進各個領域的生產效率：“在肉眼可見的未來，善用AI的人將和不用AI的人在工作效率上會產生巨大差距，因此我鼓勵大家多去使用和熟悉與AI進行溝通。”

“ChatGPT將拉近我們與通用人工智能之間的距離。”黃萱菁感慨，“我們從來沒有覺得自己與通用人工智能如此接近，這是過去我做人工智能這么多年以來最興奮的一個時期，我以前一直覺得它在我可以預見的將來是看不到的，但是現(xiàn)在我覺得可能不是那么遙遠了。”

“正如微軟CEO薩提亞·納德拉（Satya Nadella）接受媒體采訪時所說的那樣，內燃機帶來了廉價的動力，互聯(lián)網(wǎng)技術減少了信息傳遞的成本，而ChatGPT會讓信息的整合、轉譯、流通變得更加廉價。AI可能會像工業(yè)革命和信息革命一樣，引領我們走向下一個時代。”黃萱菁說。