每經(jīng)記者 文巧    每經(jīng)編輯 高涵    

ChatGPT帶來的喧囂還未歸于平靜，北京時(shí)間2月1日，其背后的公司OpenAI又趁熱打鐵推出了一款檢測工具，試圖區(qū)分人工編寫的文本和AI生成的文本。

這款工具名為AI文本檢測器（AI Text Classifier），《每日經(jīng)濟(jì)新聞》記者親測了其檢測效果，發(fā)現(xiàn)其能成功區(qū)別單獨(dú)的人工或AI文本，但當(dāng)人工和AI文本混淆時(shí)，檢測效果并不樂觀。不過，OpenAI認(rèn)為，當(dāng)這個(gè)檢測工具與其他方法結(jié)合使用時(shí)，可能有助于防止 AI文本生成器被濫用。

“它仍然有一些局限性——因此它應(yīng)該被用作其他確定文本來源方法的補(bǔ)充，而不是作為主要的決策工具，”OpenAI在一份官方文件中表示，“我們正在提供這個(gè)初始檢測器，以獲取有關(guān)此類工具是否有用的反饋，并希望在未來分享改進(jìn)的方法。”

隨著ChatGPT的大熱，市場圍繞生成式 AI的熱情不斷增長。但以北密歇根大學(xué)“論文作弊”為代表的事件也引發(fā)了對于學(xué)術(shù)、倫理等方面的諸多擔(dān)憂。一些批評者認(rèn)為，生成式AI工具的廣泛使用可能會帶來一些潛在的有害影響。

直接的后果是，美國一些最大的學(xué)區(qū)已禁止在其網(wǎng)絡(luò)和設(shè)備上使用 ChatGPT。自然而然地，對類似AI文本檢測器的工具的需求也開始涌現(xiàn)。

親測OpenAI的AI檢測器效果：并不完美

《每日經(jīng)濟(jì)新聞》記者注意到，有趣的是，OpenAI新推出的這款檢測器在架構(gòu)上和ChatGPT一樣，它也是一種AI語言模型，并且也是根據(jù)來自網(wǎng)絡(luò)的許多公開文本示例進(jìn)行訓(xùn)練的。

但與ChatGPT不同的是，它經(jīng)過微調(diào)可以預(yù)測一段文本由AI生成的可能性——不僅來自ChatGPT，還來自任何文本生成AI模型。

具體來看，OpenAI在來自5個(gè)平臺（包括OpenAI本身）的34個(gè)文本生成系統(tǒng)的文本上訓(xùn)練了這款A(yù)I文本檢測器，例如維基百科等。不過，這款A(yù)I文本檢測器至少需要1000個(gè)字符，即大約150 ~250 個(gè)單詞，才能進(jìn)行檢測。

那么，這款檢測器的效果到底如何？是否真的能完美區(qū)別AI和人工生成的文本？每經(jīng)記者對此進(jìn)行了一番測試。

我們先讓ChatGPT寫了一篇主題為AI未來的文章，并用檢測器對其進(jìn)行檢測，結(jié)果顯示，“檢測器認(rèn)為文本很可能是AI生成的”。

圖片來源：AI Text Classifier

隨后，我們用了一篇人工寫作的文本再次進(jìn)行檢測，結(jié)果顯示，“檢測器認(rèn)為文本非常不可能是AI生成的”。

圖片來源：AI Text Classifier

從上述結(jié)果來看，OpenAI的這款A(yù)I文本檢測器的確成功區(qū)分了人工和AI生成的文本。然而，我們將兩個(gè)文本結(jié)合后（AI文本占比超90%）再進(jìn)行檢測，它并不能檢測出AI生成的文本。

圖片來源：AI Text Classifier

從每經(jīng)記者親身體驗(yàn)來看，目前，要靠這個(gè)AI文本檢測器來抓作弊還有些困難。

據(jù)OpenAI的一份文件，該檢測器將文本標(biāo)記為“非常不可能”由AI生成的可能性小于10%；“不太可能”由AI生成的可能性為10%~45%；“不清楚它是否是”AI生成的可能性為45%~90%；“可能”是AI生成的幾率為90%~98%。

在準(zhǔn)確性上，OpenAI也承認(rèn)，“鑒于AI生成的內(nèi)容在互聯(lián)網(wǎng)上的激增，它可能無意中將一些AI編寫的文本錯(cuò)誤分類為人類編寫的文本。”

“AI槍手”引擔(dān)憂，“貓鼠游戲”就此開始？

1月中旬，北密歇根大學(xué)的論文作弊事件讓學(xué)術(shù)界著實(shí)震驚了一把。在這次事件之后，在美國，許多大學(xué)教授、系主任和管理人員都在對課堂進(jìn)行大規(guī)模的調(diào)整，以應(yīng)對ChatGPT對教學(xué)活動造成的巨大沖擊。很多教授在重新設(shè)計(jì)課程，更多地采用口試、小組合作和手寫文章作為評估方式。

紐約和西雅圖等最大的學(xué)區(qū)最近已禁止在其設(shè)備和網(wǎng)絡(luò)中使用 ChatGPT，許多大學(xué)也在考慮采取類似措施。

在更早之前，全球最大的編程技術(shù)問答網(wǎng)站Stack Overflow緊急宣布，ChatGPT在該站暫時(shí)封禁。Stack Overflow在官方通告中表示，做出這個(gè)規(guī)定的主要原因是，ChatGPT自動生成的答案質(zhì)量太低，錯(cuò)誤太多，而且看上去還挺像那么回事，即使是完全不懂的人也能隨便生成答案。

在“AI槍手”帶來的擔(dān)憂之下，一些其他的AI文本檢測器也如雨后春筍般涌現(xiàn)，以滿足當(dāng)前的需求。

在OpenAI推出自己的檢測器之前，普林斯頓大學(xué)的一名學(xué)生Edward Tian開發(fā)了ChatZero，來檢測文本是否可能是AI生成。據(jù)報(bào)道，1月3日，該網(wǎng)站一經(jīng)上線，一周內(nèi)就有超過3萬人試用。

一名用戶展示GPTZero的檢測效果 圖片來源：推特

不過，一些用戶也報(bào)告了GPTZero檢測的錯(cuò)誤結(jié)果。Edward Tian也承認(rèn)，檢測并非百分之百準(zhǔn)確，他仍在努力提高模型的準(zhǔn)確性。

據(jù)此前報(bào)道，包括斯坦福大學(xué)在內(nèi)的一些機(jī)構(gòu)聯(lián)合提出一種名為DetectGPT的新方法，來區(qū)分AI生成的文章。

開源AI社區(qū)Hugging Face也推出了一種工具來檢測文本是否由 GPT-2 創(chuàng)建，GPT-2 是用于開發(fā) ChatGPT 的 AI 模型的早期版本。據(jù)悉，南卡羅來納州的一位哲學(xué)教授用這個(gè)工具抓獲了一名提交了 AI 編寫的作業(yè)的學(xué)生。

除此之外，谷歌搜索以及檢測學(xué)術(shù)抄襲的Turnitin也正在開發(fā)自己的AI生成文本檢測器，谷歌搜索據(jù)悉至少會推出6個(gè)應(yīng)用程序來對AI和人工文本進(jìn)行區(qū)分。

科技媒體Techcrunch對此評論稱，這很可能會成為一場貓捉老鼠的游戲。隨著文本生成AI的改進(jìn)，檢測器也會改進(jìn)——這是一種永無止境的來回交流，類似于網(wǎng)絡(luò)犯罪分子和安全研究人員之間的交流。

正如OpenAI 所寫，雖然檢測器在某些情況下可能有所幫助，但它們永遠(yuǎn)不會成為確定文本是否由AI生成的可靠唯一證據(jù)。“也就是說，目前還沒有靈丹妙藥可以解決AI生成的文本所帶來的問題，”Techcrunch這樣寫道。

封面圖片來源：攝圖網(wǎng)-307064405