每經記者 唐俊    每經編輯 劉艷美

“隨著技術不斷更新迭代，大模型的應用門檻持續(xù)降低，無處不在的數據和算法在推動發(fā)展的同時，也帶來了新的挑戰(zhàn)，比如個人數據泄露、虛假新聞、誤用濫用等安全風險。”8月29日，在2024年中國網絡文明大會人工智能分論壇上，中央網信辦、國家網信辦總工程師孫蔚敏說。

生成式人工智能正在快速發(fā)展，與此同時，相關的安全問題也越來越突出。

圖片來源：每經記者 唐俊 攝

生成式人工智能快速發(fā)展

2022年底，ChatGPT橫空出世，出色的對話和理解能力，點燃了人們對于生成式人工智能的熱情。生成式人工智能背后，是具有大量參數的人工智能模型，也就是常說的大模型。

2023年，中國科技圈開啟“百模大戰(zhàn)”，包括百度、阿里、騰訊、華為、字節(jié)跳動等大型科技公司以及月之暗面等創(chuàng)業(yè)企業(yè)，紛紛推出自己的中文大模型。

2024年初，OpenAI推出的Sora再次經驚艷公眾，Sora可以根據文字描述生成極其真實的視頻畫面。之后，快手旗下的可靈大模型在海外走紅，可靈同樣可以生成真實的視頻畫面。

短短兩年時間，中國大模型數量快速上升，并且已經影響科技圈之外的各個行業(yè)。截至目前，我國完成備案并上線、能為公眾提供服務的生成式人工智能服務大模型已達190多個，注冊用戶數超過6億。

在大會舉辦地成都，人工智能產業(yè)也在快速發(fā)展?！睹咳战洕侣劇酚浾邚默F場了解到，成都已有5個大模型通過國家網信辦備案，全國首個人形機器人任務生成式模型在成都誕生。2024年上半年，成都人工智能核心產業(yè)規(guī)模562億元、同比增長32.6%。為支持人工智能產業(yè)發(fā)展，最近，成都還舉辦金融賦能人工智能企業(yè)產融對接會，會上發(fā)布688戶人工智能企業(yè)首批預授信白名單，預授信總額度105.5億元，成都銀行等金融機構為人工智能發(fā)展提供支持。

與此同時，孫蔚敏表示，目前中央網信辦正通過共建共享機制激勵企業(yè)貢獻部分語料，集成首批1.2G中文語料和600G中文開源互聯(lián)網語料，并公開發(fā)布。

不過中國科學院科技基礎能力局副局長曾大軍在論壇上談到，目前各行各業(yè)對于大模型的認識存在兩個誤區(qū)：一是“神話”大模型，不過現在大家已經慢慢認識到大模型也有缺陷；二是大模型只是一個工具，但實際上需要與業(yè)務深度結合。

曾大軍認為，大模型不只是一個產品，而是一套技術體系，對大模型應該有更立體的理解。

針對大模型發(fā)展，孫蔚敏表示，要充分發(fā)揮我國超大規(guī)模市場優(yōu)勢，探索開發(fā)全新的應用場景和賦能模式，促進生成式人工智能技術在工業(yè)、農業(yè)、教育、醫(yī)療、衛(wèi)生等各個領域落地應用，合力推動人工智能在傳統(tǒng)行業(yè)領域應用取得更大的突破。

安全問題如何保證？

“大模型和人工智能技術，對整個科技發(fā)展和社會進步帶來深遠的影響，無疑是一場巨大的革命，但同時它也帶來一些對于安全和治理的思考。”中央廣播電視總臺技術局數據應用部主任梅劍平在論壇上說。

梅劍平認為，對于一個不知道未來會發(fā)展到什么程度、達到什么能力的新技術，思考其潛在的風險是非常重要的。

而對于大模型的安全問題，四川大學網絡空間安全學院院長、教授陳興蜀，已經有了許多思考。陳興蜀對《每日經濟新聞》記者表示，她所關注的是兩方面的安全，一是人工智能自身的安全，另外是如何利用人工智能來防護網絡安全。

陳興蜀提到，大模型數萬億的參數、深層次的網絡結構，導致模型的可解釋性非常差。“就是說我們輸入進去以后，不知道它到底會輸出什么，模型可解釋性實際上目前是業(yè)界的難點。”

于是有人利用這個特點對模型展開攻擊。陳興蜀舉例，自動駕駛車輛上的模型可以識別道路信息，當出現停止路標時車輛會停下來，但如果給該模型加入擾動，人工智能可能作出相反的判斷，從而產生危險的后果。如果類似的事情出現在重點行業(yè)里，會產生非常大的影響。

大模型訓練會使用億級的數據量，如何保證個人隱私也是公眾關注的焦點。陳興蜀對《每日經濟新聞》記者表示，由于大模型的解釋性差，并不知道中間到底存了什么信息。她認為，給模型輸入數據的時候規(guī)避掉涉及個人隱私的信息，是解決途徑之一。

另外，陳興蜀團隊也在研究，如何通過人工智能來提升網絡上的自動化攻防對抗能力。她舉例，四川大學一個wap設備每天產生的安全告警日志達到百萬級，由于數據量非常大，導致這些日志無人查看。但人工智能出現后，可以利用AI去閱讀日志以提升網絡安全。

2023年7月，國家網信辦會同相關部門發(fā)布《生成式人工智能服務管理暫行辦法》，在全球范圍內率先開展立法，對數據使用、算法設計、價值導向提出要求，為行業(yè)健康發(fā)展提供支撐。

孫蔚敏在論壇上表示，未來將優(yōu)化大模型備案的流程，加強生成、合成內容的標識管理，在分級分類、安全測試、應急響應等方面豐富完善安全標準體系，引導推動大模型提升安全能力，確保人工智能始終朝著安全可靠的方向發(fā)展。