每經(jīng)編輯 王月龍    

據(jù)揚子晚報報道，近日，網(wǎng)絡(luò)上傳播起一則“蘇州金雞湖有游艇女仆party”的消息，網(wǎng)傳宣傳海報顯示，參加活動的收費是3000元一位，將有一對一女仆陪身等服務(wù)。

網(wǎng)傳海報 來源：紫牛新聞

而該消息在1月19日被網(wǎng)友扒出，所謂的“女仆party”可能是全國第一起AI繪圖詐騙。“這個活動里面給出的女仆照片全是AI模仿真人照片的繪圖，可能太逼真被大家當(dāng)成真事傳播了。”一名對AI繪圖稍有了解的網(wǎng)友小李告訴記者，目前隨著技術(shù)發(fā)展，AI已經(jīng)能做出真人照片般的繪圖效果，但如果這樣的圖片被用來詐騙，將非常可怕。

20日，記者從蘇州市公安局工業(yè)園區(qū)分局獲悉，警方已關(guān)注到網(wǎng)傳的“金雞湖女仆游艇party”事件，工作人員告訴記者：“派出所約談了消息發(fā)布者，已經(jīng)處理完了。目前有沒有受騙者我不是很清楚?！?/span>

記者注意到，通過海報上的二維碼添加活動發(fā)起人后，對方的微信頭像已修改為一則聲明，聲明中表示自己已經(jīng)過公安部門教育，本次游艇活動取消，不再添加微信。目前沒有相關(guān)證據(jù)表明若沒遭到阻攔，活動會被真實組織開展，記者在多個社交平臺檢索后也未發(fā)現(xiàn)有已支付費用的受騙者出現(xiàn)。

“他這個活動報名要先交定金，跟你聊定金前會發(fā)你個文件，里面有所謂的這次活動的美女照片誘惑你，但可能還沒有騙到人就被警察發(fā)現(xiàn)了?！毙±罱榻B，像活動發(fā)起者提供的照片中有個很大的漏洞可以發(fā)現(xiàn)并非真人，而是AI繪圖，那便是圖片中女性的手指部分有的存在異常。“現(xiàn)在因為手指部分的繪畫算法比較復(fù)雜，AI還不太會畫人的手，但我最新看到的圖片已經(jīng)有越來越完美的AI模型出現(xiàn)，以后可能就完全沒有漏洞了?！?/span>

AI繪制的仿真美女圖片 來源：紫牛新聞

據(jù)都市快報橙柿互動，有很多網(wǎng)友提到了AI繪畫的“手部細(xì)節(jié)”，為什么AI還是不會畫手？說得直白一點，因為沒有人給AI喂成百上千的手部結(jié)構(gòu)圖，但他們喂了成百上千的臉部圖。喂的圖太少了，還沒學(xué)會，目前的ai最會畫的是各種女性臉，以及身材，手在圖片上所占面積很小，而且經(jīng)常被遮擋和半遮擋，導(dǎo)致手部所占像素較少細(xì)節(jié)不夠。

Stability AI 發(fā)言人表示，在AI數(shù)據(jù)集中，手的圖像不夠顯著，“在源圖像中，手（比面部部分等）要小得多。”

佛羅里達(dá)大學(xué)AI和藝術(shù)副教授Amelia Winger-Bearskin解釋說，AI基于從互聯(lián)網(wǎng)上收集的數(shù)十億張圖像進(jìn)行訓(xùn)練，它并不能真正理解“手”是什么，至少不理解解剖學(xué)意義上手和人體的關(guān)聯(lián)。

類似的AI作圖詐騙在國外也已有發(fā)生。據(jù)英國廣播公司報道，土耳其地震期間，有Tiktok用戶使用AI合成了兒童受災(zāi)的假照片發(fā)布到網(wǎng)絡(luò)，以此誘騙善良的人打賞“捐助”從而實施詐騙。

圖片來源：橙柿互動

編輯|王月龍 杜恒峰

校對|何小桃

每日經(jīng)濟(jì)新聞綜合自揚子晚報、都市快報