每經(jīng)編輯 畢陸名

12月15日，“微信珊瑚安全”微信公眾號(hào)發(fā)布關(guān)于打擊利用AI仿冒知名人士進(jìn)行營(yíng)銷宣傳的公告。

內(nèi)容如下：

近期有媒體報(bào)道網(wǎng)絡(luò)存在利用AI技術(shù)仿冒名人進(jìn)行不當(dāng)營(yíng)銷的現(xiàn)象。為守護(hù)用戶權(quán)益，避免消費(fèi)者上當(dāng)受騙，結(jié)合用戶舉報(bào)、日常巡查等線索，微信平臺(tái)從速?gòu)膰?yán)打擊了一批利用AI仿冒知名人士進(jìn)行不當(dāng)營(yíng)銷、惡意博取流量的違規(guī)行為，并針對(duì)相關(guān)情況開(kāi)展專項(xiàng)治理。截至目前，累計(jì)處置內(nèi)容532條，關(guān)閉賬號(hào)209個(gè)。典型案例如下：

下一步，微信平臺(tái)將持續(xù)對(duì)“利用AI仿冒知名人士進(jìn)行營(yíng)銷宣傳”等違規(guī)行為增加打擊力度，進(jìn)一步提升技術(shù)治理能力和水平，維護(hù)良好生態(tài)。同時(shí)，微信平臺(tái)也倡導(dǎo)廣大用戶自覺(jué)遵守法律法規(guī)與平臺(tái)規(guī)則。針對(duì)“利用AI合成技術(shù)生成違規(guī)內(nèi)容”的行為，平臺(tái)歡迎廣大網(wǎng)友提供更多線索，共同構(gòu)建清朗有序的網(wǎng)絡(luò)環(huán)境。

當(dāng)下，AI合成技術(shù)已經(jīng)非常成熟且已被頻繁應(yīng)用在短視頻制作中。調(diào)取一段錄像，輸入一段語(yǔ)音，便能提取克隆相關(guān)的嗓音特質(zhì)，并針對(duì)“自行設(shè)計(jì)”的臺(tái)詞，智能修改口型。

據(jù)央廣網(wǎng)報(bào)道，利用AI技術(shù)炮制名人音視頻作品以假亂真，甚至偽裝成熟人、親人實(shí)施精準(zhǔn)詐騙的案例屢見(jiàn)不鮮。

對(duì)此，北京市京都律師事務(wù)所合伙人徐偉律師認(rèn)為，未經(jīng)授權(quán)使用AI換臉技術(shù)進(jìn)行經(jīng)營(yíng)行為，已侵犯到當(dāng)事人的肖像權(quán)。在這種情況之下，如果經(jīng)營(yíng)者有夸大產(chǎn)品功效、虛高產(chǎn)品價(jià)格的行為，消費(fèi)者基于對(duì)當(dāng)事人的信任而購(gòu)買該產(chǎn)品，該行為還有可能構(gòu)成詐騙罪。而且，最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(jiàn)》中明確，對(duì)利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息的，依法從重處罰。

“AI換臉”技術(shù)的應(yīng)用中，從視頻最終的內(nèi)容角度考量，如果有人利用換臉軟件對(duì)他人進(jìn)行惡意丑化、玷污式惡搞，或者將他人的臉換到不雅視頻中，還會(huì)侵犯他人的名譽(yù)權(quán)。

此類事件中，徐偉認(rèn)為除了經(jīng)營(yíng)者，AI技術(shù)提供者和視頻平臺(tái)，也需要承擔(dān)相應(yīng)的責(zé)任。

徐偉介紹，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求深度合成服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，必須在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。目前一些較大的視頻平臺(tái)在許多AI生成的真人換臉視頻下方都含有提示信息，在用戶刷到AI生成內(nèi)容的視頻時(shí)，會(huì)標(biāo)注“AI生成內(nèi)容”或“疑似包含AI創(chuàng)作信息，請(qǐng)注意甄別真實(shí)度”等提醒。如果被投訴的虛假視頻發(fā)現(xiàn)沒(méi)有該類提示性標(biāo)注，則平臺(tái)難辭其咎。

視頻平臺(tái)若是對(duì)平臺(tái)使用者的這種侵權(quán)行為不予恰當(dāng)處理，則可能承擔(dān)連帶責(zé)任。平臺(tái)具有一定的審查、監(jiān)督職責(zé)，在被告知或發(fā)現(xiàn)此類違法行為后，應(yīng)當(dāng)積極響應(yīng)權(quán)利人的請(qǐng)求，及時(shí)撤銷、下架相關(guān)侵權(quán)圖片、視頻，中止相關(guān)直播等，避免惡劣影響的進(jìn)一步擴(kuò)大。相反，平臺(tái)若是有意放縱此類行為的發(fā)生、繼續(xù)，對(duì)相關(guān)投訴、舉報(bào)等視若無(wú)睹則應(yīng)當(dāng)與侵權(quán)者承擔(dān)連帶責(zé)任。

每日經(jīng)濟(jì)新聞綜合“微信珊瑚安全”、央廣網(wǎng)

封面圖片來(lái)源：視覺(jué)中國(guó)