每日經(jīng)濟(jì)新聞 2023-04-09 00:05:19
每經(jīng)編輯 盧祥勇
近年來(lái),“AI換臉”走紅網(wǎng)絡(luò),一些“AI換臉”的App使用明星的圖片制作換臉視頻進(jìn)行推廣,其趣味性背后暗藏不少法律風(fēng)險(xiǎn)和侵權(quán)糾紛。
4月7日,浙江杭州蕭山區(qū)檢察院曝光的一個(gè)“女神群”,引發(fā)關(guān)注。名為“女神群”,群成員卻都是一群大老爺們。每天都不停地有人入群,但除了群主虞某外,很少有人發(fā)言。這個(gè)群里究竟有著怎樣的秘密?
“女神群”里的秘密
早在2020年,“AI換臉”剛剛在國(guó)外興起的時(shí)候,80后安徽小伙虞某就對(duì)它產(chǎn)生了興趣,自學(xué)掌握了這門(mén)技術(shù)。
后來(lái)隨著“AI換臉”技術(shù)的走紅,讓虞某嗅到了商機(jī)。他想到在網(wǎng)上推廣該項(xiàng)技術(shù)及相關(guān)的軟件,并從中獲利。
但一段時(shí)間過(guò)去,虞某卻始終沒(méi)有獲得什么關(guān)注度。偶然的一次機(jī)會(huì),虞某看到有些人會(huì)在群里發(fā)布一些淫穢信息來(lái)吸引他人關(guān)注,就也動(dòng)起了歪腦筋。
虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”,后又通過(guò)互聯(lián)網(wǎng)下載了部分淫穢視頻,截取片段后發(fā)布在該公開(kāi)群中,吸引、招攬觀(guān)看者加入。當(dāng)觀(guān)看者達(dá)到一定人數(shù)后,虞某會(huì)發(fā)布群消息稱(chēng),繳納198元-498元不等的“會(huì)費(fèi)”,進(jìn)入“內(nèi)部群”可以收看完整版。
除此之外,虞某表示,“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術(shù)”合成的,根據(jù)顧客的需要還可以使用不同的女明星的形象,進(jìn)行“私人定制”。其中,經(jīng)警方查實(shí),幾位人氣女明星成了虞某“AI換臉”淫穢視頻的“重災(zāi)區(qū)”。
一面通過(guò)“吸粉引流”,收取會(huì)費(fèi);一面又通過(guò)出售“換臉軟件”,頻頻獲利。虞某短短幾個(gè)月的時(shí)間里就收獲了數(shù)萬(wàn)元。截至案發(fā),公安機(jī)關(guān)共在虞某所組建的公開(kāi)群內(nèi)查證淫穢視頻1200余部、圖片1600余張,經(jīng)鑒定,上述均系淫穢物品。
2023年3月28日,蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對(duì)虞某提起公訴。案件目前正在法院審理中。
律師:無(wú)論盈利與否
未經(jīng)授權(quán)即涉嫌侵權(quán)
“AI換臉技術(shù)”頻頻被一些犯罪分子盯上,除了女明星外,部分不法分子還將“AI換臉技術(shù)”使用在普通人身上,由此制造一些所謂的遭泄露的“私密照片”,對(duì)當(dāng)事人實(shí)施敲詐勒索。
杭州蕭山檢察官提醒,即便只是用“AI換臉技術(shù)”來(lái)搞笑或者制作惡搞照片,也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán),造成嚴(yán)重后果的,還可能構(gòu)成侮辱罪或者誹謗罪。這不是開(kāi)玩笑!希望大家依法使用該項(xiàng)技術(shù),一旦遇到類(lèi)似本案中利用AI技術(shù)實(shí)施犯罪行為的,應(yīng)第一時(shí)間固定證據(jù),并及時(shí)向司法機(jī)關(guān)報(bào)案。
類(lèi)似事件近日已出現(xiàn)多起。比如廣州一女子在地鐵上的照片被他人使用AI技術(shù)“一鍵脫衣”,虛假圖片在網(wǎng)絡(luò)廣泛傳播。此前,某男網(wǎng)紅使用“AI換臉”技術(shù),替換掉電視劇中的男主角頭像,制作自己與女明星親吻的畫(huà)面,同樣引發(fā)爭(zhēng)議。
此前報(bào)道:男網(wǎng)紅AI換臉熱吻女星引爭(zhēng)議
南方日?qǐng)?bào)記者近日調(diào)查發(fā)現(xiàn),互聯(lián)網(wǎng)上有人售賣(mài)人臉合成視頻制作教程和明星人臉“萬(wàn)能模型”,一套模型只需10元,購(gòu)買(mǎi)后可在軟件內(nèi)直接用于生成“換臉”視頻。
針對(duì)“‘換頭’親吻女明星”事件,南方日?qǐng)?bào)報(bào)道稱(chēng),廣東立幸律師事務(wù)所律師莫圣瑋認(rèn)為,男網(wǎng)紅利用技術(shù)手段制作自己與女明星“親吻”的畫(huà)面,可能侵犯了女明星的肖像權(quán)和名譽(yù)權(quán)。而其在未取得影視作品授權(quán)情況下對(duì)作品進(jìn)行二次創(chuàng)作,并發(fā)布用于營(yíng)利,還可能構(gòu)成對(duì)影視作品版權(quán)的侵權(quán)。
在女子被“一鍵脫衣”事件中,莫圣瑋認(rèn)為,造謠者除侵犯受害者民事權(quán)益,可能還涉嫌誹謗罪、侮辱罪,如果大量傳播照片并牟利的,則涉嫌傳播淫穢物品罪。
加強(qiáng)對(duì)“AI換臉”等深度合成技術(shù)的規(guī)范,有關(guān)部門(mén)一直在行動(dòng)。
今年1月,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》實(shí)施,其中明確規(guī)定網(wǎng)信部門(mén)和電信主管部門(mén)、公安部門(mén)等監(jiān)管部門(mén),需要加強(qiáng)監(jiān)督檢查、技術(shù)治理,對(duì)不當(dāng)使用AI合成技術(shù)的機(jī)構(gòu)和人員,按照有關(guān)法律、行政法規(guī)采取措施,進(jìn)行整改;造成嚴(yán)重后果的,依法從重處罰。
編輯|盧祥勇 杜恒峰
校對(duì)|王月龍
每日經(jīng)濟(jì)新聞綜合自蕭山檢察、杭州日?qǐng)?bào)、南方日?qǐng)?bào)
如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線(xiàn):4008890008
特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP