每經(jīng)記者 蔡鼎    每經(jīng)編輯 王月龍 高涵    

隨著人工智能（AI）的發(fā)展迭代，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局、新套路也在刷新人們對(duì)風(fēng)險(xiǎn)防范的認(rèn)知。這背后不僅關(guān)乎廣大消費(fèi)者的財(cái)產(chǎn)安全，還潛藏著人身安全的風(fēng)險(xiǎn)和隱患。

近日，外媒曝光了一種全新的數(shù)字詐騙，詐騙犯利用復(fù)雜的AI工具制作特斯拉CEO馬斯克等名人的視頻，并利用這些“AI名人”對(duì)各種虛假的產(chǎn)品或“投資”進(jìn)行背書，并承諾高額投資回報(bào)。

在其中一個(gè)典型案例中，“AI馬斯克”背書的一家所謂的外匯公司輕松騙走了一名82歲的退休老人超過(guò)69萬(wàn)美元（約495萬(wàn)元人民幣）的畢生積蓄。

在這類騙局中，詐騙犯通常先尋找一個(gè)真實(shí)的采訪馬斯克的視頻，再使用AI工具將他的聲音替換，并利用口型同步技術(shù)編輯馬斯克的口型，讓視頻看起來(lái)更加真實(shí)。對(duì)于普通人來(lái)說(shuō)，這種以假亂真的視頻可能是非常難以辨別的。

除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等也是常出現(xiàn)在這類詐騙視頻中的名人。

“AI馬斯克”泛濫，生成僅需幾分鐘

卻有人被騙近500萬(wàn)元

最近幾個(gè)月來(lái)，成千上萬(wàn)個(gè)由AI驅(qū)動(dòng)的視頻在互聯(lián)網(wǎng)上泛濫，這類視頻被稱為“深度偽造（deepfakes）”。根據(jù)德勤的估計(jì)，AI驅(qū)動(dòng)的“深度偽造”視頻/廣告預(yù)計(jì)每年將造成數(shù)十億美元的欺詐損失。

然而，這些視頻的制作成本只有幾美元，幾乎可以忽略不計(jì)，而且可以在幾分鐘內(nèi)完成。這類視頻由于名人效應(yīng)在社交媒體上被廣泛推廣，包括Facebook上的付費(fèi)廣告，擴(kuò)大了它們的影響范圍。

騙子們會(huì)從一段真實(shí)的視頻開始，比如下面這段來(lái)自《華爾街日?qǐng)?bào)》的采訪馬斯克視頻，提問(wèn)者是該報(bào)一名編輯Thorold Barker，他的聲音也出現(xiàn)在視頻片段中。

圖片來(lái)源：《華爾街日?qǐng)?bào)》

在“深度偽造”視頻中，馬斯克的嘴部動(dòng)作用唇部同步技術(shù)進(jìn)行了編輯，這種技術(shù)可以調(diào)整一個(gè)人的說(shuō)話方式。騙子還會(huì)用語(yǔ)音克隆工具添加AI聲音，這種工具可以從樣本中復(fù)制任何他們想要的聲音。因此，最終的視頻對(duì)于普通的互聯(lián)網(wǎng)用戶來(lái)說(shuō)，可能相當(dāng)有說(shuō)服力。

已有人因此上當(dāng)受騙，82歲的退休老人Steve Beauchamp便是典型案例。據(jù)外媒報(bào)道，去年年底，82歲的退休老人Beauchamp觀看了一段視頻廣告。視頻中馬斯克支持一個(gè)承諾快速回報(bào)的激進(jìn)投資機(jī)會(huì)，口型與聲音都高度吻合，還融入了馬斯克標(biāo)志性的南非口音，看起來(lái)極為真實(shí)。于是，Beauchamp聯(lián)系了該廣告背后一家名為Magna-FX的外匯公司，開設(shè)了一個(gè)248美元的賬戶。經(jīng)過(guò)數(shù)周的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69萬(wàn)多美元（約合495萬(wàn)元），而這些錢都被卷走了。

另?yè)?jù)非營(yíng)利性消費(fèi)者權(quán)益組織美國(guó)商業(yè)促進(jìn)局的一份報(bào)告，一名得克薩斯州人表示，他在看到馬斯克于2023年2月在所謂的YouTube“直播”視頻中發(fā)言后，損失了價(jià)值3.6萬(wàn)美元的比特幣。其稱，“我把比特幣發(fā)送了出去，卻再也沒有收到任何東西。”

負(fù)責(zé)監(jiān)控和檢測(cè)“深度偽造”的公司Sensity分析了2000多個(gè)深度偽造視頻后發(fā)現(xiàn)，到目前為止，馬斯克是這類視頻中最常見的“AI形象”。具體來(lái)說(shuō)，自去年年底以來(lái)，“AI馬斯克”出現(xiàn)在近1/4的“深度偽造”騙局中。而在加密貨幣相關(guān)的“深度偽造”視頻中，他出現(xiàn)的頻率甚至高達(dá)90%。

對(duì)此，研究加密貨幣社區(qū)的專家表示，馬斯克在全球擁有獨(dú)特的粉絲群，其中包括保守派、反建制派和加密貨幣愛好者，這類群體往往會(huì)被另類的發(fā)財(cái)途徑所吸引，這也使他們成為數(shù)字詐騙犯的完美目標(biāo)。而且這類群體中，年紀(jì)較大的互聯(lián)網(wǎng)用戶往往更容易成為詐騙犯的目標(biāo)，這類群體對(duì)加密貨幣、AI和馬斯克都非常熟悉，但他們的警惕性往往不足。

除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等也是常出現(xiàn)在這類詐騙視頻中的名人。

AI技術(shù)成詐騙工具

Facebook和Youtube是重災(zāi)區(qū)

外媒報(bào)道中稱，目前來(lái)看，很難量化到底有多少“深度偽造”視頻在網(wǎng)上流傳，但在Facebook的廣告庫(kù)中搜索這些騙局的常用關(guān)鍵詞，能搜索到數(shù)十萬(wàn)個(gè)廣告，其中許多都包含“深度偽造”視頻。

盡管Facebook已經(jīng)刪除了許多違反其政策的視頻，并關(guān)閉了一些賬戶，但其他視頻仍在網(wǎng)上流傳，而且似乎每天都有更多的視頻出現(xiàn)。不僅是Facebook，YouTube上也充斥著這些造假視頻，而且通常使用“直播（live）”標(biāo)簽。但事實(shí)上，這些視頻是預(yù)先錄制的”深度偽造”視頻。

YouTube在一份聲明中說(shuō)，僅今年一季度，就刪除了超過(guò)1570萬(wàn)個(gè)頻道和超過(guò)820萬(wàn)個(gè)視頻，這些內(nèi)容大多因違反其反垃圾郵件政策而被刪除。

這類“深度偽造”廣告的盛行還導(dǎo)致澳大利亞億萬(wàn)富翁Andrew Forrest提起民事訴訟，控告Facebook的母公司Meta在廣告業(yè)務(wù)運(yùn)營(yíng)方面存在疏忽。他認(rèn)為，F(xiàn)acebook的廣告業(yè)務(wù)誘使“無(wú)辜用戶進(jìn)行了錯(cuò)誤的投資”。Meta則表示，其正在培訓(xùn)自動(dòng)檢測(cè)系統(tǒng)，以捕捉其平臺(tái)上的欺詐行為，但同時(shí)也提到，資金雄厚的欺詐者會(huì)不斷變換策略以逃避檢測(cè)。YouTube則表示，其政策禁止欺詐和篡改視頻，并于今年3月要求創(chuàng)作者在使用AI創(chuàng)作真實(shí)內(nèi)容時(shí)必須披露。

事實(shí)上，數(shù)字詐騙并不新鮮，但自去年AI工具開源后，新一波“深度偽造”視頻井噴。

今年早些時(shí)候，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）和FBI也發(fā)出警告稱，AI驅(qū)動(dòng)的網(wǎng)絡(luò)犯罪和深度欺詐正在上升。FBI表示，“犯罪分子正在利用AI讓網(wǎng)絡(luò)攻擊和其他犯罪活動(dòng)更有效，更難以被發(fā)現(xiàn)”。

“深度偽造”視頻并不完美，甚至在一些視頻中，“AI馬斯克”的嘴型都對(duì)不上，但有專家表示，對(duì)于一些詐騙犯的目標(biāo)群體來(lái)說(shuō)，他們制作的視頻似乎足夠有說(shuō)服力，而且一直在改進(jìn)。

此外，一些騙局還經(jīng)常宣傳虛假的人工智能軟件，稱它們可以產(chǎn)生可觀的投資回報(bào)。詐騙犯以此誘使目標(biāo)受眾一開始只投一小筆錢（大約250美元）。隨后，騙子不斷宣稱投資會(huì)升值，人們往往慢慢被引誘投入更多資金。

被騙了畢生積蓄的Beauchamp在提交給美國(guó)商業(yè)改進(jìn)局（Better Business Bureau）的報(bào)告中表示：“此刻，我愿接受所有指責(zé)與嘲諷，作為對(duì)自己輕信的懲罰。”

他表示，目前正依靠一個(gè)未向詐騙者透露的較小退休賬戶及養(yǎng)老金來(lái)維持生計(jì)，而他原本計(jì)劃使用這些積蓄環(huán)游世界。Beauchamp已經(jīng)向當(dāng)?shù)鼐綀?bào)案，但案件進(jìn)展緩慢。“由于到處都是欺詐案件，我的案件被放在了隊(duì)列中，”他說(shuō)，“我沒有抱太大希望。”

記者|蔡鼎

編輯|王月龍 高涵 杜恒峰

校對(duì)|盧祥勇

｜每日經(jīng)濟(jì)新聞  nbdnews  原創(chuàng)文章｜

未經(jīng)許可禁止轉(zhuǎn)載、摘編、復(fù)制及鏡像等使用