每經記者 李孟林    每經編輯 高涵    

當地時間3月31日（周五），意大利個人數據保護局宣布，即日起暫時禁止使用聊天機器人ChatGPT，并表示已對開發(fā)該產品的OpenAI公司展開調查。

OpenAI的生成式人工智能（AI）產品風靡全球的同時，其引發(fā)的爭議和擔憂也在不斷發(fā)酵。

本周，馬斯克、圖靈獎得主等一眾大佬簽署公開信、聯名呼吁暫停大型AI研究，歐洲執(zhí)法機構和消費者保護組織也先后拉響對ChatGPT潛在危害的警報。

美國人工智能協會前主席托馬斯•迪特里希（Thomas Dietterich）對《每日經濟新聞》記者表示，不法分子確實有可能利用生成式AI進行新形式的犯罪，但監(jiān)管的對象應該是技術的危害而不是技術本身。

迪特里希進一步指出，雖然公開信警告的AI風險多數言過其實，但是虛假信息的暴增是一個亟待處理的嚴峻問題。他建議開發(fā)一整套認證內容來源的技術。

圖片來源：視覺中國

意大利禁用ChatGPT，OpenAI恐面臨2000萬歐元罰款

意大利個人數據保護局暫停ChatGPT主要出于用戶隱私數據保護和未成年人保護的考慮。

該機構稱，ChatGPT沒有就收集和處理用戶信息進行告知，“沒有任何法律依據表明，為了‘訓練’平臺背后的算法而大規(guī)模收集和存儲個人數據是合理的”。此外，ChatGPT還出現過數據泄露的情況，導致用戶對話數據和付款服務信息被其他人看到的情況出現。

該機構還表示，雖然根據OpenAI發(fā)布的條款，ChatGPT針對的是13歲以上的用戶，但并沒有年齡核實系統來驗證用戶年齡，導致兒童接受到“完全不適合他們發(fā)育和自我意識階段的回答”。

OpenAI必須在20天內通過其在歐洲的代表，向意大利個人數據保護局通報公司執(zhí)行保護局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。

OpenAI尚未回復媒體的置評請求。

一向走在數字監(jiān)管前沿的歐盟對ChatGPT亦十分警惕。本周，歐盟執(zhí)法機構歐洲刑警組織(Europol)警告稱，ChatGPT可能被濫用于網絡釣魚、虛假信息和網絡犯罪，加劇了對法律、道德等各種問題的擔憂。此外，歐洲消費者聯盟3月30日呼吁歐盟和成員國的監(jiān)管機構對ChatGPT展開調查。

“犯罪分子肯定會嘗試利用這項技術，我相信會有新型的金融詐騙和網絡攻擊出現。但另一方面，這項技術也有可能增強人類監(jiān)測詐騙和網絡攻擊的能力，”機器學習領域的奠基人之一、美國人工智能協會前主席托馬斯•迪特里希向《每日經濟新聞》記者分析了生成式AI技術的潛在風險。

迪特里希指出，每項AI技術在應用前都應該進行風險評估，但該受監(jiān)管的是技術帶來的危害而不是技術本身。“金融詐騙、侵犯隱私、竊取知識產權本來就已經是犯罪了，法律要做的是在威脅發(fā)生變化時進行更新，” 迪特里希表示。

虛假信息應成監(jiān)管重點

3月29日，圖靈獎得主約書亞·本希奧，特斯拉CEO馬斯克、蘋果聯合創(chuàng)始人史蒂夫·沃茲尼亞克等1000多名來自學界、商界和政策界的人士發(fā)表聯名信，要求暫停研發(fā)強于GPT-4的AI系統至少6個月，以便更好地評估風險和建立監(jiān)管框架。

這封分量十足的公開信將OpenAI推到了風口浪尖，對AI的擔憂也成為了熱門話題。迪特里希向《每日經濟新聞》記者表示，信中所陳列的AI危害，如自動化導致所有工作崗位消失、人類被更聰明的AI取代、失去對文明的控制，都言過其實了，而且暫停新AI系統的研發(fā)也不能解決這些問題。

不過，迪特里希認為，生成式AI導致虛假內容泛濫的風險確實是真實而緊迫的。

“生成式AI讓信息洪流進一步增長，而且現有的手段難以充分過濾假信息，這一點是絕對正確的，” 迪特里希表示。他認為，可以仿照互聯網的超文本傳輸安全協議（https），建立起一整套的認證基礎設施，用來鑒定圖像和信息是否來自可靠的來源，現有的密碼學技術應該能夠做到這一點。

“我強烈支持限制AI生成的信息（包括電子郵件、廣告和社交媒體內容）的法律法規(guī)，也支持研發(fā)實用的認證機制，” 迪特里希告訴每經記者。

雖然迪特里希認為公開信所警告的AI風險過于“驚悚”，但OpenAI在發(fā)布最新的GPT-4模型時信息不透明，違背了AI研究領域長期以來的開源精神，這一點確實值得擔憂。

“OpenAI在發(fā)布最新的GPT-4時向外界透露的信息很少，我對此表示不滿。我希望他們能公開GPT-4的架構、訓練數據和規(guī)模。他們（OpenAI）不公開似乎更多是出于保護商業(yè)優(yōu)勢的考慮，而不是技術上存在風險。幸運的是，其他公司也在開發(fā)類似的競品，其中有些項目就是開源的，” 迪特里希補充道。

封面圖片來源：視覺中國