每經(jīng)記者 畢媛媛  杜蔚    每經(jīng)編輯 文多    

“雷軍回應(yīng)‘7天假期被AI雷軍罵了8天’”“靳東建議AI換臉立法”??今年全國(guó)兩會(huì)期間，人工智能（AI）技術(shù)治理成為討論焦點(diǎn)之一，其中“AI換臉”引發(fā)的風(fēng)險(xiǎn)問(wèn)題受到代表委員們熱議。

在這場(chǎng)身份保衛(wèi)戰(zhàn)中，公眾人物、媒體首當(dāng)其沖。“AI張文宏”深夜直播帶貨、“AI劉曉慶”分享雞湯、“AI古天樂(lè)”代言網(wǎng)游……AI換臉已淪為黑灰產(chǎn)業(yè)鏈的作案工具。日前，每日經(jīng)濟(jì)新聞刊發(fā)《微信抖音都難防！花1280元，直播、視頻通話(huà)能實(shí)時(shí)換成劉亦菲、楊冪的臉，拍臉按鼻露齒及大幅遮擋都不會(huì)“掉臉”》廣受各界關(guān)注，平臺(tái)也開(kāi)始思考：AI深度偽造導(dǎo)致傳統(tǒng)防偽手段失效后如何保護(hù)數(shù)億用戶(hù)。

3月10日，“小紅書(shū)”在北京舉辦首次“詐騙治理開(kāi)放日”，公布了2024年平臺(tái)反詐治理成果：通過(guò)不斷完善全鏈路治理體系，平臺(tái)全年共處置涉詐違規(guī)賬號(hào)492萬(wàn)個(gè)，主動(dòng)攔截94.3%的詐騙行為，詐騙舉報(bào)量同比下降60%。

但是，在分享治理措施和經(jīng)驗(yàn)的同時(shí)，小紅書(shū)反詐治理負(fù)責(zé)人蒼連表示，詐騙治理是個(gè)長(zhǎng)期過(guò)程，存在不少難點(diǎn)，需要更多互聯(lián)網(wǎng)平臺(tái)、企業(yè)以及用戶(hù)共同參與解決。其中，95%的詐騙行為被誘導(dǎo)至第三方平臺(tái)實(shí)施，形成監(jiān)管斷點(diǎn)，這讓追蹤溯源難上加難。

中國(guó)犯罪學(xué)學(xué)會(huì)副會(huì)長(zhǎng)兼信息犯罪防控專(zhuān)業(yè)委員會(huì)主任、同濟(jì)大學(xué)法學(xué)教授皮勇警示，伴隨AI時(shí)代到來(lái)，深度合成的影像越來(lái)越真實(shí)，犯罪人是誰(shuí)？聲音來(lái)自誰(shuí)？越來(lái)越難以分辨。“犯罪在變，我們的‘教材’卻沒(méi)有及時(shí)更新。”

皮勇介紹“打防結(jié)合、共同防治”的反詐模式 圖片來(lái)源：主辦方提供

詐騙渠道從傳統(tǒng)電信渠道向網(wǎng)絡(luò)全面轉(zhuǎn)移

“千萬(wàn)不要覺(jué)得自己不會(huì)被騙。”蘇州市公安局金牌反詐講師朱鈺表示，詐騙分子盯上的是我們每一個(gè)人，不會(huì)區(qū)分人們的學(xué)歷、職業(yè)。

當(dāng)下，AI技術(shù)迅猛發(fā)展，詐騙形式也以超乎想象的速度不斷升級(jí)。對(duì)于警方而言，傳統(tǒng)的事后打擊犯罪方式已陷入被動(dòng)的局面。“犯罪分子在網(wǎng)上飛，在全世界飛，我們公安民警如果在地上追，根本沒(méi)有用。不僅成本投入巨大，人員消耗也大，還無(wú)法有效遏制。”朱鈺無(wú)奈地說(shuō)道。

基于多年的從警經(jīng)驗(yàn)，朱鈺總結(jié)出當(dāng)下詐騙的三大特點(diǎn)——

第一，從過(guò)去的廣撒網(wǎng)式詐騙轉(zhuǎn)變?yōu)榫珳?zhǔn)詐騙。詐騙分子通過(guò)非法手段獲取公民個(gè)人信息，據(jù)此量身定制詐騙劇本，實(shí)施精準(zhǔn)詐騙。

第二，詐騙手法從單一走向組合套路。詐騙手段不斷演變，從最初的、簡(jiǎn)單的冒充熟人式、中獎(jiǎng)式詐騙，發(fā)展到如今融合刷單返利、殺豬盤(pán)、虛假投資等多種形式的復(fù)合型詐騙，靈活性更強(qiáng)，讓人防不勝防。

第三，詐騙渠道從傳統(tǒng)電信渠道向網(wǎng)絡(luò)全面轉(zhuǎn)移。利用社交軟件、直播平臺(tái)、網(wǎng)絡(luò)游戲等新型網(wǎng)絡(luò)產(chǎn)物實(shí)施詐騙的案例日益增多，隱蔽性愈發(fā)突出，增加了識(shí)別和防范的難度。

除了詐騙手法更具迷惑性，目前網(wǎng)絡(luò)詐騙的危害也遠(yuǎn)超以往。隨著互聯(lián)網(wǎng)的發(fā)展普及，公開(kāi)數(shù)據(jù)顯示，網(wǎng)絡(luò)犯罪案件增長(zhǎng)迅速，目前占全部犯罪案件的七成以上。

蒼連分享平臺(tái)治理策略和措施 圖片來(lái)源：主辦方提供

蒼連以站外導(dǎo)流難追蹤為例進(jìn)一步介紹道，詐騙行為在平臺(tái)內(nèi)通常偽裝成正常筆記（即博主發(fā)布的內(nèi)容）和交流內(nèi)容，不觸及詐騙核心環(huán)節(jié)的誘導(dǎo)轉(zhuǎn)賬或資金流轉(zhuǎn)。因此，其詐騙特征不明顯，平臺(tái)辨別存在困難。隨后，詐騙者會(huì)將用戶(hù)引導(dǎo)至第三方平臺(tái)實(shí)施進(jìn)一步的詐騙活動(dòng)，“這一比例高達(dá)95%，導(dǎo)致難以實(shí)現(xiàn)有效追蹤”。

一年近120種不法手段！AI時(shí)代如何構(gòu)筑反詐防線(xiàn)

AI的應(yīng)用場(chǎng)景愈發(fā)廣泛，也為詐騙分子提供了新的偽裝手段。

朱鈺直言，如今除了詐騙手法更具迷惑性，網(wǎng)絡(luò)詐騙的危害其實(shí)也遠(yuǎn)超從前，因?yàn)楫a(chǎn)業(yè)鏈條盤(pán)根錯(cuò)節(jié)，而且跨境跨國(guó)犯罪的趨勢(shì)明顯，打擊難度非常之大。

針對(duì)上述問(wèn)題，公安機(jī)關(guān)也在不斷地調(diào)整打擊和防范的措施。在此情況下，警企合作正在加強(qiáng)。朱鈺介紹：“我們也希望短視頻平臺(tái)發(fā)現(xiàn)詐騙風(fēng)險(xiǎn)后，能夠及時(shí)同步警方來(lái)聯(lián)動(dòng)，將這些信息最早最快地告訴我們，避免更多人民群眾的財(cái)產(chǎn)受損失。”

“這對(duì)治理的‘及時(shí)性’和‘對(duì)抗性’都提出了很大的考驗(yàn)。”蒼連透露，過(guò)去一年，小紅書(shū)累計(jì)出現(xiàn)近120種詐騙方式，比2023年的96種增加了四分之一。詐騙話(huà)術(shù)演變也非常迅速，例如“導(dǎo)流到其他平臺(tái)”的話(huà)術(shù)變體，目前就有不下500種。

所幸，借助AI，小紅書(shū)建立了超過(guò)100個(gè)識(shí)別模型?！睹咳战?jīng)濟(jì)新聞》記者在現(xiàn)場(chǎng)了解到，疊加大模型理解能力，小紅書(shū)可對(duì)詐騙風(fēng)險(xiǎn)實(shí)現(xiàn)跨場(chǎng)景內(nèi)容的理解與攔截。2024年，小紅書(shū)對(duì)詐騙行為的主動(dòng)攔截率達(dá)到了94.3%，月均推送風(fēng)險(xiǎn)提醒3700萬(wàn)次。蒼連表示：“平臺(tái)用戶(hù)對(duì)詐騙單日舉報(bào)量方面，2024年底比年初減少了60%，呈現(xiàn)顯著下降。”

圖片來(lái)源：主辦方提供

業(yè)內(nèi)專(zhuān)家呼吁，社會(huì)各界共同參與反詐斗爭(zhēng)，形成全民反詐的強(qiáng)大合力。

“進(jìn)入人工智能時(shí)代，我們的反詐犯罪防控又遇到了新的問(wèn)題。深度合成的影像越來(lái)越真，犯罪人是誰(shuí)？聲音來(lái)自誰(shuí)？越來(lái)越難以分辨。”皮勇在活動(dòng)現(xiàn)場(chǎng)表示，大眾要帶著懷疑的態(tài)度對(duì)待網(wǎng)絡(luò)空間。

皮勇認(rèn)為：“犯罪在變，我們的‘教材’還沒(méi)有及時(shí)更新。未來(lái)，當(dāng)人形機(jī)器人進(jìn)入我們的生活，將對(duì)國(guó)家立法提出新的挑戰(zhàn)??需要進(jìn)行人工智能化的升級(jí)，才具備治理‘未來(lái)已來(lái)’的、智能化犯罪的能力。”