每經(jīng)編輯 杜宇

4月5日，ChatGPT官網(wǎng)宣布，由于需求量過大，暫停Plus付費(fèi)項(xiàng)目的購買，一度引發(fā)關(guān)注。目前該功能已恢復(fù)，并可進(jìn)入付費(fèi)環(huán)節(jié)。

值得注意的是，4月6日凌晨，Open AI在官網(wǎng)發(fā)布了《Our approach to AI safety》，以確保安全、可靠地為全球用戶提供ChatGPT服務(wù)。

圖片來源：Open AI公司官網(wǎng)

建立廣泛的安全和監(jiān)控系統(tǒng)

Open AI表示，在發(fā)布任何新系統(tǒng)之前，我們會進(jìn)行嚴(yán)格的測試，聘請外部專家進(jìn)行反饋，通過人工反饋的強(qiáng)化學(xué)習(xí)等技術(shù)來改善模型的行為，并建立廣泛的安全和監(jiān)控系統(tǒng)。

例如，在我們的最新模型GPT-4完成培訓(xùn)后，我們花了6個(gè)多月的時(shí)間在整個(gè)組織中工作，以使其在公開發(fā)布之前更安全、更一致。

Open AI認(rèn)為，強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評估。需要進(jìn)行監(jiān)管以確保此類做法得到采納，我們積極與政府就此類監(jiān)管的最佳形式進(jìn)行接觸。

圖片來源：Open AI公司官網(wǎng)

從實(shí)踐中學(xué)習(xí)、優(yōu)化、改善

Open AI表示：在部署之前，我們努力防止可預(yù)見的風(fēng)險(xiǎn)，然而，在實(shí)驗(yàn)室中所能學(xué)到的是有限的。盡管進(jìn)行了廣泛的研究和測試，但仍無法預(yù)測人們使用我們技術(shù)的所有有益方式，也無法預(yù)測人們?yōu)E用我們技術(shù)的所有方式。

Open AI表示，隨著時(shí)間的推移，從現(xiàn)實(shí)世界的使用中學(xué)習(xí)是創(chuàng)建和發(fā)布越來越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。所以，從實(shí)踐項(xiàng)目中學(xué)習(xí)、優(yōu)化和改善產(chǎn)品，成為重中之重。

圖片來源：Open AI公司官網(wǎng)

關(guān)鍵重點(diǎn)：保護(hù)兒童

我們安全工作的一個(gè)關(guān)鍵重點(diǎn)是保護(hù)兒童。我們要求年滿18歲或13歲以上的人必須獲得父母批準(zhǔn)才能使用我們的人工智能工具，并正在研究驗(yàn)證選項(xiàng)。

我們不允許我們的技術(shù)被用于生成仇恨、騷擾、暴力或成人內(nèi)容等類別。與GPT-3.5相比，我們的最新模型GPT-4響應(yīng)不允許內(nèi)容請求的可能性降低了82%，我們已經(jīng)建立了一個(gè)強(qiáng)大的系統(tǒng)來監(jiān)控濫用情況?，F(xiàn)在，ChatGPT-Plus用戶可以使用GPT-4，我們希望隨著時(shí)間的推移，更多的人可以使用它。

我們已經(jīng)做出了重大努力，最大限度地減少我們的模型生成傷害兒童的內(nèi)容的可能性。例如，當(dāng)用戶試圖將兒童性虐待材料上傳到我們的圖像工具時(shí)，我們會阻止并向國家失蹤和被剝削兒童中心報(bào)告。

除了我們默認(rèn)的安全護(hù)欄外，我們還與非營利組織Khan Academy等開發(fā)人員合作，該學(xué)院構(gòu)建了一個(gè)人工智能輔助系統(tǒng)，既可以作為學(xué)生的虛擬導(dǎo)師，也可以作為教師的課堂助理，為他們的用例量身定制安全緩解措施。我們還在開發(fā)一些功能，允許開發(fā)人員為模型輸出設(shè)置更嚴(yán)格的標(biāo)準(zhǔn)，以更好地支持想要這些功能的開發(fā)人員和用戶。

圖片來源：Open AI公司官網(wǎng)

尊重隱私

Open AI的大型語言模型是在廣泛的文本語料庫上訓(xùn)練的，這些文本包括公開可用的、許可的內(nèi)容以及由人工審閱生成的內(nèi)容。

Open AI不會使用數(shù)據(jù)來銷售服務(wù)、做廣告或建立人們的檔案——會通過使用數(shù)據(jù)使大語言模型對人們更有幫助。例如，ChatGPT 通過與人類之間進(jìn)行的對話，以進(jìn)一步培訓(xùn)和改善產(chǎn)品。

圖片來源：Open AI公司官網(wǎng)

ChatGPT恢復(fù)Plus訂閱服務(wù)

4月5日，ChatGPT官網(wǎng)宣布，由于需求量過大，暫停Plus付費(fèi)項(xiàng)目的購買。

這一情況在社交平臺Reddit上引起討論，有網(wǎng)友表示因?yàn)樾枨筮^高而關(guān)閉付費(fèi)服務(wù)“一點(diǎn)也不奇怪，（和ChatGPT對話時(shí)）10%-15%的回復(fù)會出現(xiàn)網(wǎng)絡(luò)錯(cuò)誤情況，且回應(yīng)速度比以前至少慢了2倍”。

也有不少網(wǎng)友將這一情況歸咎為OpenAI人手不足。此前1月，該公司的首席執(zhí)行官Sam Altman曾在推特上表示，該公司的總?cè)藬?shù)為375人，遠(yuǎn)遠(yuǎn)小于大型科技公司的員工數(shù)量。

《科創(chuàng)板日報(bào)》今早實(shí)測發(fā)現(xiàn)，OpenAI的ChatGPT已經(jīng)恢復(fù)了Plus訂閱服務(wù)，并可進(jìn)入付費(fèi)環(huán)節(jié)。

ChatGPT風(fēng)險(xiǎn)引發(fā)多國警惕！千人聯(lián)名呼吁暫停

繼意大利宣布禁用ChatGPT后，多國政府和企業(yè)開始調(diào)查或采取措施限制使用該軟件。據(jù)加拿大廣播公司（CBC）4日報(bào)道，加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布，已經(jīng)對開發(fā)ChatGPT的美國公司OpenAI展開調(diào)查，因?yàn)樵摴旧嫦?ldquo;未經(jīng)同意收集、使用和披露個(gè)人信息”。報(bào)道同時(shí)提到，美國總統(tǒng)拜登及其科技顧問委員會在4日舉行的會議上也討論了人工智能的“風(fēng)險(xiǎn)和機(jī)遇”。英國《衛(wèi)報(bào)》4日稱，英國信息專員辦公室已經(jīng)向科技公司發(fā)出警告，不要使用個(gè)人信息來開發(fā)聊天機(jī)器人。英國信息專員辦公室技術(shù)和創(chuàng)新總監(jiān)阿爾蒙德表示，類似ChatGPT的生成式人工智能“如果被不負(fù)責(zé)任地使用，有可能對數(shù)據(jù)隱私構(gòu)成風(fēng)險(xiǎn)”。

據(jù)第一財(cái)經(jīng)，上周，包括OpenAI共同創(chuàng)始人馬斯克在內(nèi)的上千名科技領(lǐng)袖通過非營利組織未來生命研究所（FLI），簽署一份聯(lián)名信，呼吁OpenAI暫停對GPT的訓(xùn)練，理由是對社會的潛在風(fēng)險(xiǎn)。這份聯(lián)名信引用了包括OpenAI、谷歌及其子公司DeepMind等機(jī)構(gòu)的12項(xiàng)研究。

不過這份聯(lián)名信已經(jīng)引發(fā)了激烈的爭辯。一些人工智能權(quán)威人士認(rèn)為，人工智能的威脅被夸大了。

清華大學(xué)智能產(chǎn)業(yè)研究院首席研究員聶再清對第一財(cái)經(jīng)記者表示：“我認(rèn)為GPT-4主要還是人類助手和提升效率的工具，而且是完全在人類的控制下工作的，暫停6個(gè)月的訓(xùn)練這一要求過于一刀切了。”

ChatGPT概念股集體重挫

4月6日，AI應(yīng)用端相關(guān)板塊陷入調(diào)整，ChatGPT概念股領(lǐng)跌，截至午盤，中文在線跌超8%，鴻博股份跌超7%、海天瑞聲跌超6%。

每日經(jīng)濟(jì)新聞綜合Open AI官網(wǎng)、科創(chuàng)板日報(bào)、澎湃新聞、公開資料

免責(zé)聲明：本文內(nèi)容與數(shù)據(jù)僅供參考，不構(gòu)成投資建議，使用前請核實(shí)。據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。

封面圖片來源：視覺中國-VCG111421680440