每經(jīng)記者 楊卉    每經(jīng)編輯 楊夏    

4月29日，第八屆數(shù)字中國建設(shè)峰會(huì)在福州舉行。會(huì)議期間，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東接受了《每日經(jīng)濟(jì)新聞》等媒體的采訪。

在齊向東看來，隨著人工智能，尤其是大模型在垂直領(lǐng)域落地應(yīng)用的加速，數(shù)據(jù)安全面臨著新的三重挑戰(zhàn)：數(shù)據(jù)密度變高，失去珍貴“小數(shù)據(jù)”的企業(yè)將承擔(dān)巨大損失；大部分大模型還在“裸奔”上線，極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C(jī)；用戶對(duì)AI（人工智能）過度依賴，一旦大模型決策失準(zhǔn)會(huì)引發(fā)“蝴蝶效應(yīng)”。

除了挑戰(zhàn)，齊向東還看到了人工智能時(shí)代下數(shù)據(jù)安全市場(chǎng)的重大機(jī)遇。根據(jù)他的預(yù)測(cè)，數(shù)據(jù)安全市場(chǎng)“引爆在即”，雖然增速尚難估計(jì)，但至少會(huì)高于其他行業(yè)。從細(xì)分領(lǐng)域和利好產(chǎn)業(yè)來看，數(shù)據(jù)基礎(chǔ)設(shè)施底座、算力網(wǎng)平臺(tái)、數(shù)據(jù)應(yīng)用動(dòng)態(tài)管控、數(shù)據(jù)流通利用安全等方面將成為企業(yè)在打造自身數(shù)據(jù)安全“護(hù)城河”時(shí)關(guān)注的重點(diǎn)；“車路云一體化”趨勢(shì)下的智能網(wǎng)聯(lián)車產(chǎn)業(yè)對(duì)數(shù)據(jù)安全的需求將大大增加，萬億級(jí)市場(chǎng)呼之欲出。

齊向東接受《每日經(jīng)濟(jì)新聞》等媒體采訪 圖片來源：受訪者供圖

大模型“裸奔”上線極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C(jī)

峰會(huì)現(xiàn)場(chǎng)，從人形機(jī)器人到智能眼鏡再到各類AI解決方案，2025年，大模型終于在垂直領(lǐng)域迎來了應(yīng)用和落地的爆發(fā)。作為經(jīng)歷過上一輪互聯(lián)網(wǎng)“狂歡”的老兵，齊向東在看到新生產(chǎn)力的同時(shí)，也看到了隨之而來的安全風(fēng)險(xiǎn)。

首先是“小數(shù)據(jù)”的重要性遠(yuǎn)超從前，成為數(shù)字經(jīng)濟(jì)時(shí)代的核心關(guān)切。至于這個(gè)“小”的范圍，齊向東解釋稱，“小數(shù)據(jù)”其實(shí)是指企業(yè)在多年競(jìng)爭(zhēng)中積累下來的核心資產(chǎn)。“這個(gè)小指的是規(guī)模小，用硬盤就能拷走。在大模型垂直應(yīng)用場(chǎng)景中，大數(shù)據(jù)經(jīng)過標(biāo)注、清洗、學(xué)習(xí)，就變成了‘小數(shù)據(jù)’，這些精華數(shù)據(jù)的價(jià)值更高，集中度也強(qiáng)。”

需要注意的是，據(jù)齊向東介紹，在相關(guān)產(chǎn)業(yè)，接觸上述數(shù)據(jù)的大模型開發(fā)工程師、訓(xùn)練微調(diào)工程師、模型運(yùn)維工程師、數(shù)據(jù)管理員、數(shù)據(jù)標(biāo)注員等都擁有很高的數(shù)據(jù)訪問權(quán)限，因此權(quán)限濫用、身份盜取等情況更難防范，安全風(fēng)險(xiǎn)更為嚴(yán)峻。齊向東直言，對(duì)企業(yè)來說，一旦精華小數(shù)據(jù)被竊取、泄露、篡改，企業(yè)常年積累的核心競(jìng)爭(zhēng)力會(huì)瞬間崩塌。

第二重挑戰(zhàn)是，在企業(yè)積極部署落地的同時(shí)，大部分大模型都在“裸奔”。據(jù)他介紹，大模型在深度融入智慧城市、工控系統(tǒng)、智慧政務(wù)等領(lǐng)域時(shí)會(huì)將風(fēng)險(xiǎn)串聯(lián)成網(wǎng)，一旦被攻擊就是“牽一發(fā)動(dòng)全身”。然而，通過奇安信資產(chǎn)測(cè)繪鷹圖平臺(tái)的監(jiān)測(cè)數(shù)據(jù)，在8971個(gè)Ollama大模型服務(wù)器中有6449個(gè)活躍服務(wù)器，其中近九成都在“裸奔”。

“這就導(dǎo)致任何人，不需要任何認(rèn)證就可隨意調(diào)用，或是在未經(jīng)授權(quán)的情況下訪問服務(wù)，甚至可以發(fā)送指令刪除所部署的DeepSeek、Qwen等大模型文件，進(jìn)而導(dǎo)致與大模型關(guān)聯(lián)的應(yīng)用業(yè)務(wù)中斷。”齊向東稱。

第三重挑戰(zhàn)是用戶對(duì)AI的過度依賴。“隨著人工智能在各行業(yè)深入應(yīng)用，大模型的本領(lǐng)會(huì)越來越強(qiáng)，（用戶）會(huì)對(duì)人工智能的輔助決策和判斷（能力）過度依賴。從外部攻擊視角看，黑客可以通過利用漏洞、數(shù)據(jù)‘投毒’等方式干擾大模型的決策，披著大模型的外衣作惡。從內(nèi)部運(yùn)營視角看，一旦內(nèi)部員工在更新知識(shí)庫時(shí)引入錯(cuò)誤信息，就會(huì)污染模型學(xué)習(xí)環(huán)境，使其輸出錯(cuò)誤結(jié)論。”齊向東稱。

不過，即便明知大模型有幻覺、長(zhǎng)期使用會(huì)有依賴，大模型也已經(jīng)勢(shì)不可當(dāng)?shù)剡M(jìn)入了千行百業(yè)，用戶該如何應(yīng)對(duì)這些風(fēng)險(xiǎn)，安全領(lǐng)域的玩家們又該如何“接招”？

《每日經(jīng)濟(jì)新聞》記者注意到，與前一輪互聯(lián)網(wǎng)浪潮時(shí)的安全產(chǎn)品略有不同，此次不少公司選擇了加碼硬件來抵抗風(fēng)險(xiǎn)。以奇安信為例，據(jù)齊向東介紹，奇安信推出了大模型安全空間以及奇安天界大模型安全一體機(jī)等解決方案。其中，一體機(jī)產(chǎn)品可通過一體化交付、一體化運(yùn)維和一體化管理來滿足大模型的安全和合規(guī)需求，已在超千家政企客戶中成功部署。

數(shù)據(jù)安全市場(chǎng)“引爆在即”

人工智能浪潮來襲已有一年多的時(shí)間，我國的數(shù)據(jù)資源增長(zhǎng)情況究竟如何？

4月29日，《全國數(shù)據(jù)資源調(diào)查報(bào)告（2024年）》正式發(fā)布（下稱《報(bào)告》）在第八屆數(shù)字中國建設(shè)峰會(huì)期間正式發(fā)布?！秷?bào)告》顯示，我國數(shù)據(jù)資源規(guī)模優(yōu)勢(shì)持續(xù)擴(kuò)大，數(shù)據(jù)資源開發(fā)利用活躍度穩(wěn)步提升，2024年全國年度數(shù)據(jù)生產(chǎn)總量達(dá)41.06澤字節(jié)（ZB），同比增長(zhǎng)25%；智能家居、智能網(wǎng)聯(lián)汽車、無人機(jī)等智能設(shè)備數(shù)據(jù)增速位居前列。

然而，與高速增長(zhǎng)的數(shù)據(jù)池對(duì)應(yīng)的卻是近年來增速并不理想的數(shù)據(jù)安全市場(chǎng)。齊向東告訴《每日經(jīng)濟(jì)新聞》記者，在他看來，主要原因是此前數(shù)據(jù)都是以大數(shù)據(jù)形式存在，一個(gè)單位內(nèi)會(huì)有成百上千，甚至上萬臺(tái)服務(wù)器用于存儲(chǔ)數(shù)據(jù)。加上彼時(shí)數(shù)據(jù)單位的體系和數(shù)據(jù)的價(jià)值密度并不高，因此哪怕有數(shù)據(jù)丟失，企業(yè)也并不太“痛”。

齊向東直言，眼下這一情況已經(jīng)有了明顯改變，隨著DeepSeek降低大模型部署成本，垂直領(lǐng)域應(yīng)用開始爆發(fā)，企業(yè)在數(shù)據(jù)安全上的“痛感”會(huì)越來越明顯。畢竟企業(yè)要部署大模型，就需要將質(zhì)量稀疏的大數(shù)據(jù)變成密度極高的“小數(shù)據(jù)”，否則將會(huì)消耗大量的算力和顯卡，燒掉大量資金。在此模式下，密度極高的數(shù)據(jù)一旦丟失，帶來的影響將遠(yuǎn)超從前。

“我預(yù)計(jì)數(shù)據(jù)安全市場(chǎng)‘引爆在即’，至于增速是多少很難估計(jì)，因?yàn)樗秃暧^經(jīng)濟(jì)環(huán)境有關(guān)聯(lián)性，至少會(huì)遠(yuǎn)高于其他的行業(yè)，因?yàn)樗〝?shù)據(jù)安全需求）處于‘爆炸增長(zhǎng)’的狀態(tài)。”齊向東稱。

值得關(guān)注的是，除了預(yù)測(cè)總量的增長(zhǎng)，齊向東還嗅到了更多機(jī)遇的“味道”。他告訴記者，其實(shí)過去幾年，網(wǎng)絡(luò)安全行業(yè)一直是在挑戰(zhàn)中創(chuàng)造“歷史”，如“脫鉤斷鏈”“小院高墻”等情況，其實(shí)客觀上加速了我國的信創(chuàng)替代進(jìn)程，極大釋放了信創(chuàng)安全需求。

再看回這波AI浪潮，齊向東認(rèn)為，隨著各類利好政策的密集發(fā)布，國家數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)將全面提速，全流程動(dòng)態(tài)防護(hù)必將成重點(diǎn)。對(duì)企業(yè)來說，圍繞數(shù)據(jù)基礎(chǔ)設(shè)施底座、算力網(wǎng)平臺(tái)、數(shù)據(jù)應(yīng)用動(dòng)態(tài)管控、數(shù)據(jù)流通利用安全等四個(gè)方面開展的數(shù)據(jù)安全建設(shè)將成為主流趨勢(shì)。

此外，產(chǎn)業(yè)方面，齊向東重點(diǎn)談到了“車路云一體化”行業(yè)的潛在機(jī)遇。在他看來，“車路云一體化”是智能網(wǎng)聯(lián)車領(lǐng)域落實(shí)和發(fā)展新質(zhì)生產(chǎn)力的重要實(shí)踐，也是未來新型的交通關(guān)鍵基礎(chǔ)設(shè)施。一旦遭受網(wǎng)絡(luò)攻擊或數(shù)據(jù)泄露，將造成嚴(yán)重的交通秩序問題及公共安全事件。因此，保障數(shù)據(jù)安全合規(guī)將是智能網(wǎng)聯(lián)車產(chǎn)業(yè)穩(wěn)健發(fā)展的前提。齊向東預(yù)測(cè)，隨著相關(guān)政策的密集推出，國家將以超長(zhǎng)期國債等方式支持地方投入車路云一體化項(xiàng)目，萬億級(jí)市場(chǎng)呼之欲出。