国产成人精品免费视,91天堂嫩模在线播放,国产免费小视频在线观看,久久免费公开视频,国产成人精品免费视频网页大全,日韩不卡在线视频,视频一区二区精品的福利

每日經(jīng)濟(jì)新聞
要聞

每經(jīng)網(wǎng)首頁(yè) > 要聞 > 正文

英偉達(dá)盤中“閃崩”近6%!美國(guó)監(jiān)管機(jī)構(gòu)將展開反壟斷調(diào)查,耶倫發(fā)出AI“重大風(fēng)險(xiǎn)”警告

每日經(jīng)濟(jì)新聞 2024-06-07 07:14:39

每經(jīng)編輯 杜宇

6月6日美股,英偉達(dá)收跌1.18%,報(bào)1209.98美元,收盤市值回落至2.9765萬(wàn)億美元。該股股價(jià)早盤“閃崩”,一度較盤初所創(chuàng)的盤中紀(jì)錄高位回落近6%。

值得注意的是,6月6日盤后仍持有英偉達(dá)股票的投資者,將在6月7日收盤后獲得9股額外股票,股價(jià)也將作出調(diào)整以反映分拆。6月10日(下周一),英偉達(dá)開始以調(diào)整后的價(jià)格交易。

英偉達(dá)在歷史上曾多次拆股。其中2000年、2001年和2006年都是按2:1的比例拆分股票。2007年,英偉達(dá)曾以3:2的比例進(jìn)行拆股。

不過(guò),從歷史數(shù)據(jù)來(lái)看,拆股并非股價(jià)上漲的催化劑。美股近年來(lái)240次拆股案例顯示,這些股票在拆股后兩周內(nèi)平均漲幅只有0.44%,不到一半的案例跑贏了標(biāo)普500指數(shù)。六個(gè)月內(nèi)這些股票的平均收益率為6.6%,僅略高于同期標(biāo)普500指數(shù)的5.4%。

但英偉達(dá)的歷史數(shù)據(jù),則要漂亮得多。2021年拆股后,英偉達(dá)曾在6個(gè)月內(nèi)曾上漲近40%,上次拆分至今,英偉達(dá)股價(jià)已上漲超過(guò)500%。

蘋果(AAPL)收跌0.71%,報(bào)194.48美元,收盤市值2.9821萬(wàn)億美元。

微軟(MSFT)收漲0.12%,報(bào)424.52美元,收盤市值3.1551萬(wàn)億美元。

Meta收跌0.26%,谷歌A漲0.78%,特斯拉漲1.65%,亞馬遜漲2.02%連續(xù)四個(gè)交易日反彈本周已累漲4.82%。

此外,臺(tái)積電ADR收跌0.52%,也脫離收盤歷史最高位,但美股盤初漲至164.70美元繼續(xù)創(chuàng)盤中歷史新高;伯克希爾哈撒韋B類股漲0.3%,AMD漲0.36%,禮來(lái)制藥漲0.66%時(shí)隔一個(gè)交易日再創(chuàng)收盤歷史新高。

美國(guó)監(jiān)管機(jī)構(gòu)將對(duì)英偉達(dá)、微軟和OpenAI展開反壟斷調(diào)查

當(dāng)?shù)貢r(shí)間6月6日消息,美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)和司法部將對(duì)微軟、OpenAI和英偉達(dá)展開反壟斷調(diào)查,審查這些強(qiáng)大公司在人工智能行業(yè)的影響力,一位熟悉情況的人士向CNBC確認(rèn)了這一點(diǎn)。

FTC將主導(dǎo)對(duì)微軟和OpenAI的調(diào)查,而司法部將專注于英偉達(dá),調(diào)查將集中在公司的行為上,而不是并購(gòu)活動(dòng),據(jù)消息人士稱。

《紐約時(shí)報(bào)》首先報(bào)道了這項(xiàng)調(diào)查。

隨著像OpenAI和Anthropic這樣的初創(chuàng)公司——分別是ChatGPT和Claude聊天機(jī)器人背后的公司——在生成式AI市場(chǎng)上獲得動(dòng)力,谷歌、微軟、亞馬遜和Meta等科技巨頭一直在進(jìn)行一場(chǎng)AI軍備競(jìng)賽,競(jìng)相整合這項(xiàng)技術(shù),以確保他們不會(huì)在這個(gè)預(yù)計(jì)在十年內(nèi)收入將超過(guò)1萬(wàn)億美元的市場(chǎng)中落后。

例如,微軟在2019年首次向OpenAI投資了10億美元。自那以后,其投資規(guī)模已膨脹至約130億美元。微軟在其Copilot聊天機(jī)器人中大量使用OpenAI的模型,并在其Azure云上提供開源模型。

巨額投資是必要的,因?yàn)锳I模型的構(gòu)建和訓(xùn)練眾所周知地昂貴,需要數(shù)千個(gè)專業(yè)芯片,到目前為止,這些芯片主要來(lái)自英偉達(dá)。Meta正在開發(fā)自己的名為L(zhǎng)lama的模型,表示它正在花費(fèi)數(shù)十億美元購(gòu)買英偉達(dá)的圖形處理單元,這是幫助這家芯片制造商年收入增長(zhǎng)超過(guò)250%的眾多公司之一。

即將進(jìn)行的反壟斷調(diào)查的消息是在一群現(xiàn)任和前任OpenAI員工周二發(fā)表公開信幾天后傳來(lái)的,他們表達(dá)了對(duì)AI行業(yè)快速發(fā)展的擔(dān)憂,盡管缺乏監(jiān)督,也沒有為那些愿意發(fā)聲的人提供舉報(bào)者保護(hù)。

“AI公司有強(qiáng)烈的財(cái)務(wù)動(dòng)機(jī)避免有效的監(jiān)督,我們不認(rèn)為定制的公司治理結(jié)構(gòu)足以改變這一點(diǎn),”員工們寫道,并補(bǔ)充說(shuō),公司“目前只有微弱的義務(wù)與政府分享這些信息的一部分,與民間社會(huì)沒有任何義務(wù)。我們不認(rèn)為他們都能被信賴自愿分享。”

OpenAI沒有回應(yīng)置評(píng)請(qǐng)求。微軟和英偉達(dá)拒絕置評(píng)。

圖片來(lái)源:視覺中國(guó)

美財(cái)長(zhǎng)耶倫警告:金融行業(yè)廣泛應(yīng)用AI帶來(lái)潛在“重大風(fēng)險(xiǎn)”

當(dāng)?shù)貢r(shí)間6月6日,美國(guó)財(cái)政部長(zhǎng)耶倫出席了金融穩(wěn)定監(jiān)督委員會(huì)(FSOC)有關(guān)人工智能與金融穩(wěn)定的會(huì)議,并在開幕致辭中警告金融機(jī)構(gòu)使用人工智能技術(shù)的潛在風(fēng)險(xiǎn)。

有分析稱,這是耶倫迄今為止對(duì)人工智能作出的最廣泛評(píng)論。據(jù)一位美國(guó)財(cái)政部官員向媒體透露,耶倫本人也嘗試用過(guò)人工智能聊天機(jī)器人。

耶倫在演講中透露,人工智能與金融穩(wěn)定是拜登政府高度重視的話題,“在未來(lái)幾年只會(huì)變得更加重要”。金融公司使用人工智能帶來(lái)的“巨大機(jī)遇和重大風(fēng)險(xiǎn)”已成為美國(guó)財(cái)政部和金融穩(wěn)定監(jiān)督委員會(huì)的首要議題。

耶倫承認(rèn),人工智能為金融系統(tǒng)提供了巨大機(jī)遇,例如通過(guò)AI的預(yù)測(cè)能力進(jìn)行投資組合管理,利用AI檢測(cè)異常的能力來(lái)打擊欺詐和非法融資,客服也開始實(shí)現(xiàn)自動(dòng)化。在最新的發(fā)展中,自然語(yǔ)言處理、圖像識(shí)別和生成式人工智能有助于金融服務(wù)成本更低和更易于獲取:

“我們看到,如果使用得當(dāng),人工智能可以提高效率、準(zhǔn)確性和金融產(chǎn)品的可及性。”

但她同時(shí)警告稱,金融機(jī)構(gòu)使用AI在促進(jìn)機(jī)遇的同時(shí)伴隨著“重大風(fēng)險(xiǎn)”(significant risks):

“特定的脆弱性可能源于人工智能模型的復(fù)雜性和不透明性,風(fēng)險(xiǎn)管理框架不足以應(yīng)對(duì)人工智能風(fēng)險(xiǎn),以及由于許多市場(chǎng)參與者依賴相同的數(shù)據(jù)和模型而出現(xiàn)的相互關(guān)聯(lián)特征。

開發(fā)模型、提供數(shù)據(jù)和云服務(wù)的供應(yīng)商集中度過(guò)高,也可能會(huì)加劇現(xiàn)有的第三方服務(wù)提供商風(fēng)險(xiǎn)。數(shù)據(jù)不足或有缺陷則可能延續(xù)現(xiàn)有的偏見或引入新的金融決策偏見。”

有分析指出,耶倫意在警告,如果許多投資者都依賴于產(chǎn)生相同結(jié)果的AI工具,這可能導(dǎo)致某些熱門交易的倉(cāng)位押注擁擠,從而加劇市場(chǎng)上行或下行的走勢(shì)。

同時(shí),如果只有少數(shù)幾家公司有能力提供AI模型,一旦其中一家公司出現(xiàn)問題,許多金融機(jī)構(gòu)可能受到波及。更別提AI模型有時(shí)會(huì)產(chǎn)生有偏差或者歧視性的結(jié)果,但耶倫沒提AI系統(tǒng)產(chǎn)生錯(cuò)誤答案的“幻覺”問題。

OpenAI、谷歌現(xiàn)任及前任員工聯(lián)名警告:AI失控或?qū)е氯祟悳缃^

當(dāng)?shù)貢r(shí)間4日,13位來(lái)自O(shè)penAI和Google的現(xiàn)任及前任員工聯(lián)合發(fā)布了一封公開信,引發(fā)廣泛關(guān)注。這些員工在信中表達(dá)了對(duì)人工智能技術(shù)潛在風(fēng)險(xiǎn)的嚴(yán)重?fù)?dān)憂,并呼吁相關(guān)公司采取更加透明和負(fù)責(zé)任的措施來(lái)應(yīng)對(duì)這些風(fēng)險(xiǎn)。

這封公開信由多位知名人士聯(lián)名背書,包括被譽(yù)為“人工智能教父”的杰弗里•辛頓、因開創(chuàng)性AI研究獲得圖靈獎(jiǎng)的約書亞•本吉奧以及AI安全領(lǐng)域的學(xué)者斯圖爾特•羅素。

圖片來(lái)源:Right To Warn AI

信中指出,盡管人工智能技術(shù)可能會(huì)給人類帶來(lái)巨大益處,但其帶來(lái)的風(fēng)險(xiǎn)同樣不容忽視。這些風(fēng)險(xiǎn)包括加劇社會(huì)不平等、操縱和虛假信息傳播,以及自主AI系統(tǒng)失控可能導(dǎo)致的人類滅絕。信中強(qiáng)調(diào),這些風(fēng)險(xiǎn)不僅得到了人工智能公司本身的確認(rèn),也得到了世界各國(guó)政府和其他AI專家的認(rèn)可。

公開信簽署者們表示,他們希望在科學(xué)界、政策制定者和公眾的指導(dǎo)下,能夠充分緩解這些風(fēng)險(xiǎn)。然而,他們擔(dān)心,人工智能公司由于強(qiáng)烈的經(jīng)濟(jì)動(dòng)機(jī),可能會(huì)避免接受有效的監(jiān)督。他們認(rèn)為,僅靠現(xiàn)有的公司治理結(jié)構(gòu)不足以解決這一問題。

信中還提到,人工智能公司掌握著大量關(guān)于其系統(tǒng)能力和局限性、保護(hù)措施的充分性以及各種風(fēng)險(xiǎn)水平的非公開信息。然而,這些公司目前對(duì)與政府分享信息的義務(wù)很弱,且完全沒有義務(wù)與公眾分享。簽署者們認(rèn)為,不能完全依賴這些公司自愿分享信息。

信中提到,由于嚴(yán)格的保密協(xié)議,員工們?cè)诒磉_(dá)對(duì)AI風(fēng)險(xiǎn)的擔(dān)憂時(shí),面臨著種種限制。而目前對(duì)于舉報(bào)人的保護(hù)措施尚存在不足,一些員工擔(dān)心因提出批評(píng)而遭受報(bào)復(fù)。

聯(lián)名信呼吁人工智能公司承諾員工對(duì)公司提出風(fēng)險(xiǎn)相關(guān)的批評(píng)時(shí),不對(duì)其進(jìn)行打擊報(bào)復(fù),建立匿名舉報(bào)機(jī)制,支持開放批評(píng)的文化,并保護(hù)員工公開分享風(fēng)險(xiǎn)相關(guān)信息的權(quán)利。

圖片來(lái)源:X

OpenAI前員工丹尼爾•科泰洛 (Daniel Kokotajlo)是此次聯(lián)名信公開署名人員中的一位。他在社交平臺(tái)上連發(fā)15條消息表示:“我們中一些最近從OpenAI辭職的人聚集在一起,要求實(shí)驗(yàn)室對(duì)透明度作出更廣泛的承諾。”

丹尼爾提到,他今年四月辭職,是因?yàn)閷?duì)該公司在構(gòu)建通用人工智能方面是否會(huì)采取負(fù)責(zé)任的行為失去了信心。他指出,盡管他希望公司在AI功能越來(lái)越強(qiáng)大的同時(shí),能在安全研究方面投入更多資金,但OpenAI并未做出相應(yīng)調(diào)整,導(dǎo)致多名員工相繼辭職。

他強(qiáng)調(diào),OpenAI等實(shí)驗(yàn)室構(gòu)建的系統(tǒng)有能力給人類社會(huì)帶來(lái)巨大的好處,但如果不謹(jǐn)慎處理,長(zhǎng)期來(lái)看,可能是災(zāi)難性的。他還提到,當(dāng)前AI技術(shù)幾乎未收監(jiān)管,主要是公司在進(jìn)行自我監(jiān)管,而這種方式存在巨大的風(fēng)險(xiǎn)。

丹尼爾透露,離職時(shí)他被要求簽署一份“封口協(xié)議”,其中包含一項(xiàng)不貶損條款,禁止他發(fā)表任何批評(píng)公司的話,否則將失去已歸屬的股權(quán)。然而,他在深思熟慮后,依舊決定放棄簽署協(xié)議。

圖片來(lái)源:Dwarkesh Podcast

此外,6月4日,OpenAI前超級(jí)對(duì)齊部門成員利奧波德•阿申布倫納(Leopold Aschenbrenner)也在播客節(jié)目Dwarkesh Podcast中透露他被開除的真實(shí)原因:他給幾位董事會(huì)成員分享了一份OpenAI安全備忘錄,結(jié)果導(dǎo)致OpenAI管理層不滿。

利奧波德在社交平臺(tái)表示,到2027年實(shí)現(xiàn)AGI是極其有可能的,需要更嚴(yán)格的監(jiān)管和更透明的機(jī)制,確保人工智能的安全發(fā)展。

每日經(jīng)濟(jì)新聞綜合公開資料

免責(zé)聲明:本文內(nèi)容與數(shù)據(jù)僅供參考,不構(gòu)成投資建議,使用前請(qǐng)核實(shí)。據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

封面圖片來(lái)源::視覺中國(guó)

如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

6月6日美股,英偉達(dá)收跌1.18%,報(bào)1209.98美元,收盤市值回落至2.9765萬(wàn)億美元。該股股價(jià)早盤“閃崩”,一度較盤初所創(chuàng)的盤中紀(jì)錄高位回落近6%。 值得注意的是,6月6日盤后仍持有英偉達(dá)股票的投資者,將在6月7日收盤后獲得9股額外股票,股價(jià)也將作出調(diào)整以反映分拆。6月10日(下周一),英偉達(dá)開始以調(diào)整后的價(jià)格交易。 英偉達(dá)在歷史上曾多次拆股。其中2000年、2001年和2006年都是按2:1的比例拆分股票。2007年,英偉達(dá)曾以3:2的比例進(jìn)行拆股。 不過(guò),從歷史數(shù)據(jù)來(lái)看,拆股并非股價(jià)上漲的催化劑。美股近年來(lái)240次拆股案例顯示,這些股票在拆股后兩周內(nèi)平均漲幅只有0.44%,不到一半的案例跑贏了標(biāo)普500指數(shù)。六個(gè)月內(nèi)這些股票的平均收益率為6.6%,僅略高于同期標(biāo)普500指數(shù)的5.4%。 但英偉達(dá)的歷史數(shù)據(jù),則要漂亮得多。2021年拆股后,英偉達(dá)曾在6個(gè)月內(nèi)曾上漲近40%,上次拆分至今,英偉達(dá)股價(jià)已上漲超過(guò)500%。 蘋果(AAPL)收跌0.71%,報(bào)194.48美元,收盤市值2.9821萬(wàn)億美元。 微軟(MSFT)收漲0.12%,報(bào)424.52美元,收盤市值3.1551萬(wàn)億美元。 Meta收跌0.26%,谷歌A漲0.78%,特斯拉漲1.65%,亞馬遜漲2.02%連續(xù)四個(gè)交易日反彈本周已累漲4.82%。 此外,臺(tái)積電ADR收跌0.52%,也脫離收盤歷史最高位,但美股盤初漲至164.70美元繼續(xù)創(chuàng)盤中歷史新高;伯克希爾哈撒韋B類股漲0.3%,AMD漲0.36%,禮來(lái)制藥漲0.66%時(shí)隔一個(gè)交易日再創(chuàng)收盤歷史新高。 美國(guó)監(jiān)管機(jī)構(gòu)將對(duì)英偉達(dá)、微軟和OpenAI展開反壟斷調(diào)查 當(dāng)?shù)貢r(shí)間6月6日消息,美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)和司法部將對(duì)微軟、OpenAI和英偉達(dá)展開反壟斷調(diào)查,審查這些強(qiáng)大公司在人工智能行業(yè)的影響力,一位熟悉情況的人士向CNBC確認(rèn)了這一點(diǎn)。 FTC將主導(dǎo)對(duì)微軟和OpenAI的調(diào)查,而司法部將專注于英偉達(dá),調(diào)查將集中在公司的行為上,而不是并購(gòu)活動(dòng),據(jù)消息人士稱。 《紐約時(shí)報(bào)》首先報(bào)道了這項(xiàng)調(diào)查。 隨著像OpenAI和Anthropic這樣的初創(chuàng)公司——分別是ChatGPT和Claude聊天機(jī)器人背后的公司——在生成式AI市場(chǎng)上獲得動(dòng)力,谷歌、微軟、亞馬遜和Meta等科技巨頭一直在進(jìn)行一場(chǎng)AI軍備競(jìng)賽,競(jìng)相整合這項(xiàng)技術(shù),以確保他們不會(huì)在這個(gè)預(yù)計(jì)在十年內(nèi)收入將超過(guò)1萬(wàn)億美元的市場(chǎng)中落后。 例如,微軟在2019年首次向OpenAI投資了10億美元。自那以后,其投資規(guī)模已膨脹至約130億美元。微軟在其Copilot聊天機(jī)器人中大量使用OpenAI的模型,并在其Azure云上提供開源模型。 巨額投資是必要的,因?yàn)锳I模型的構(gòu)建和訓(xùn)練眾所周知地昂貴,需要數(shù)千個(gè)專業(yè)芯片,到目前為止,這些芯片主要來(lái)自英偉達(dá)。Meta正在開發(fā)自己的名為L(zhǎng)lama的模型,表示它正在花費(fèi)數(shù)十億美元購(gòu)買英偉達(dá)的圖形處理單元,這是幫助這家芯片制造商年收入增長(zhǎng)超過(guò)250%的眾多公司之一。 即將進(jìn)行的反壟斷調(diào)查的消息是在一群現(xiàn)任和前任OpenAI員工周二發(fā)表公開信幾天后傳來(lái)的,他們表達(dá)了對(duì)AI行業(yè)快速發(fā)展的擔(dān)憂,盡管缺乏監(jiān)督,也沒有為那些愿意發(fā)聲的人提供舉報(bào)者保護(hù)。 “AI公司有強(qiáng)烈的財(cái)務(wù)動(dòng)機(jī)避免有效的監(jiān)督,我們不認(rèn)為定制的公司治理結(jié)構(gòu)足以改變這一點(diǎn),”員工們寫道,并補(bǔ)充說(shuō),公司“目前只有微弱的義務(wù)與政府分享這些信息的一部分,與民間社會(huì)沒有任何義務(wù)。我們不認(rèn)為他們都能被信賴自愿分享?!? OpenAI沒有回應(yīng)置評(píng)請(qǐng)求。微軟和英偉達(dá)拒絕置評(píng)。 圖片來(lái)源:視覺中國(guó) 美財(cái)長(zhǎng)耶倫警告:金融行業(yè)廣泛應(yīng)用AI帶來(lái)潛在“重大風(fēng)險(xiǎn)” 當(dāng)?shù)貢r(shí)間6月6日,美國(guó)財(cái)政部長(zhǎng)耶倫出席了金融穩(wěn)定監(jiān)督委員會(huì)(FSOC)有關(guān)人工智能與金融穩(wěn)定的會(huì)議,并在開幕致辭中警告金融機(jī)構(gòu)使用人工智能技術(shù)的潛在風(fēng)險(xiǎn)。 有分析稱,這是耶倫迄今為止對(duì)人工智能作出的最廣泛評(píng)論。據(jù)一位美國(guó)財(cái)政部官員向媒體透露,耶倫本人也嘗試用過(guò)人工智能聊天機(jī)器人。 耶倫在演講中透露,人工智能與金融穩(wěn)定是拜登政府高度重視的話題,“在未來(lái)幾年只會(huì)變得更加重要”。金融公司使用人工智能帶來(lái)的“巨大機(jī)遇和重大風(fēng)險(xiǎn)”已成為美國(guó)財(cái)政部和金融穩(wěn)定監(jiān)督委員會(huì)的首要議題。 耶倫承認(rèn),人工智能為金融系統(tǒng)提供了巨大機(jī)遇,例如通過(guò)AI的預(yù)測(cè)能力進(jìn)行投資組合管理,利用AI檢測(cè)異常的能力來(lái)打擊欺詐和非法融資,客服也開始實(shí)現(xiàn)自動(dòng)化。在最新的發(fā)展中,自然語(yǔ)言處理、圖像識(shí)別和生成式人工智能有助于金融服務(wù)成本更低和更易于獲?。? “我們看到,如果使用得當(dāng),人工智能可以提高效率、準(zhǔn)確性和金融產(chǎn)品的可及性?!? 但她同時(shí)警告稱,金融機(jī)構(gòu)使用AI在促進(jìn)機(jī)遇的同時(shí)伴隨著“重大風(fēng)險(xiǎn)”(significant risks): “特定的脆弱性可能源于人工智能模型的復(fù)雜性和不透明性,風(fēng)險(xiǎn)管理框架不足以應(yīng)對(duì)人工智能風(fēng)險(xiǎn),以及由于許多市場(chǎng)參與者依賴相同的數(shù)據(jù)和模型而出現(xiàn)的相互關(guān)聯(lián)特征。 開發(fā)模型、提供數(shù)據(jù)和云服務(wù)的供應(yīng)商集中度過(guò)高,也可能會(huì)加劇現(xiàn)有的第三方服務(wù)提供商風(fēng)險(xiǎn)。數(shù)據(jù)不足或有缺陷則可能延續(xù)現(xiàn)有的偏見或引入新的金融決策偏見。” 有分析指出,耶倫意在警告,如果許多投資者都依賴于產(chǎn)生相同結(jié)果的AI工具,這可能導(dǎo)致某些熱門交易的倉(cāng)位押注擁擠,從而加劇市場(chǎng)上行或下行的走勢(shì)。 同時(shí),如果只有少數(shù)幾家公司有能力提供AI模型,一旦其中一家公司出現(xiàn)問題,許多金融機(jī)構(gòu)可能受到波及。更別提AI模型有時(shí)會(huì)產(chǎn)生有偏差或者歧視性的結(jié)果,但耶倫沒提AI系統(tǒng)產(chǎn)生錯(cuò)誤答案的“幻覺”問題。 OpenAI、谷歌現(xiàn)任及前任員工聯(lián)名警告:AI失控或?qū)е氯祟悳缃^ 當(dāng)?shù)貢r(shí)間4日,13位來(lái)自O(shè)penAI和Google的現(xiàn)任及前任員工聯(lián)合發(fā)布了一封公開信,引發(fā)廣泛關(guān)注。這些員工在信中表達(dá)了對(duì)人工智能技術(shù)潛在風(fēng)險(xiǎn)的嚴(yán)重?fù)?dān)憂,并呼吁相關(guān)公司采取更加透明和負(fù)責(zé)任的措施來(lái)應(yīng)對(duì)這些風(fēng)險(xiǎn)。 這封公開信由多位知名人士聯(lián)名背書,包括被譽(yù)為“人工智能教父”的杰弗里?辛頓、因開創(chuàng)性AI研究獲得圖靈獎(jiǎng)的約書亞?本吉奧以及AI安全領(lǐng)域的學(xué)者斯圖爾特?羅素。 圖片來(lái)源:Right To Warn AI 信中指出,盡管人工智能技術(shù)可能會(huì)給人類帶來(lái)巨大益處,但其帶來(lái)的風(fēng)險(xiǎn)同樣不容忽視。這些風(fēng)險(xiǎn)包括加劇社會(huì)不平等、操縱和虛假信息傳播,以及自主AI系統(tǒng)失控可能導(dǎo)致的人類滅絕。信中強(qiáng)調(diào),這些風(fēng)險(xiǎn)不僅得到了人工智能公司本身的確認(rèn),也得到了世界各國(guó)政府和其他AI專家的認(rèn)可。 公開信簽署者們表示,他們希望在科學(xué)界、政策制定者和公眾的指導(dǎo)下,能夠充分緩解這些風(fēng)險(xiǎn)。然而,他們擔(dān)心,人工智能公司由于強(qiáng)烈的經(jīng)濟(jì)動(dòng)機(jī),可能會(huì)避免接受有效的監(jiān)督。他們認(rèn)為,僅靠現(xiàn)有的公司治理結(jié)構(gòu)不足以解決這一問題。 信中還提到,人工智能公司掌握著大量關(guān)于其系統(tǒng)能力和局限性、保護(hù)措施的充分性以及各種風(fēng)險(xiǎn)水平的非公開信息。然而,這些公司目前對(duì)與政府分享信息的義務(wù)很弱,且完全沒有義務(wù)與公眾分享。簽署者們認(rèn)為,不能完全依賴這些公司自愿分享信息。 信中提到,由于嚴(yán)格的保密協(xié)議,員工們?cè)诒磉_(dá)對(duì)AI風(fēng)險(xiǎn)的擔(dān)憂時(shí),面臨著種種限制。而目前對(duì)于舉報(bào)人的保護(hù)措施尚存在不足,一些員工擔(dān)心因提出批評(píng)而遭受報(bào)復(fù)。 聯(lián)名信呼吁人工智能公司承諾員工對(duì)公司提出風(fēng)險(xiǎn)相關(guān)的批評(píng)時(shí),不對(duì)其進(jìn)行打擊報(bào)復(fù),建立匿名舉報(bào)機(jī)制,支持開放批評(píng)的文化,并保護(hù)員工公開分享風(fēng)險(xiǎn)相關(guān)信息的權(quán)利。 圖片來(lái)源:X OpenAI前員工丹尼爾?科泰洛 (Daniel Kokotajlo)是此次聯(lián)名信公開署名人員中的一位。他在社交平臺(tái)上連發(fā)15條消息表示:“我們中一些最近從OpenAI辭職的人聚集在一起,要求實(shí)驗(yàn)室對(duì)透明度作出更廣泛的承諾?!? 丹尼爾提到,他今年四月辭職,是因?yàn)閷?duì)該公司在構(gòu)建通用人工智能方面是否會(huì)采取負(fù)責(zé)任的行為失去了信心。他指出,盡管他希望公司在AI功能越來(lái)越強(qiáng)大的同時(shí),能在安全研究方面投入更多資金,但OpenAI并未做出相應(yīng)調(diào)整,導(dǎo)致多名員工相繼辭職。 他強(qiáng)調(diào),OpenAI等實(shí)驗(yàn)室構(gòu)建的系統(tǒng)有能力給人類社會(huì)帶來(lái)巨大的好處,但如果不謹(jǐn)慎處理,長(zhǎng)期來(lái)看,可能是災(zāi)難性的。他還提到,當(dāng)前AI技術(shù)幾乎未收監(jiān)管,主要是公司在進(jìn)行自我監(jiān)管,而這種方式存在巨大的風(fēng)險(xiǎn)。 丹尼爾透露,離職時(shí)他被要求簽署一份“封口協(xié)議”,其中包含一項(xiàng)不貶損條款,禁止他發(fā)表任何批評(píng)公司的話,否則將失去已歸屬的股權(quán)。然而,他在深思熟慮后,依舊決定放棄簽署協(xié)議。 圖片來(lái)源:Dwarkesh Podcast 此外,6月4日,OpenAI前超級(jí)對(duì)齊部門成員利奧波德?阿申布倫納(Leopold Aschenbrenner)也在播客節(jié)目Dwarkesh Podcast中透露他被開除的真實(shí)原因:他給幾位董事會(huì)成員分享了一份OpenAI安全備忘錄,結(jié)果導(dǎo)致OpenAI管理層不滿。 利奧波德在社交平臺(tái)表示,到2027年實(shí)現(xiàn)AGI是極其有可能的,需要更嚴(yán)格的監(jiān)管和更透明的機(jī)制,確保人工智能的安全發(fā)展。 每日經(jīng)濟(jì)新聞綜合公開資料 免責(zé)聲明:本文內(nèi)容與數(shù)據(jù)僅供參考,不構(gòu)成投資建議,使用前請(qǐng)核實(shí)。據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
Ai 人工智能 美國(guó) 英偉達(dá)

歡迎關(guān)注每日經(jīng)濟(jì)新聞APP

每經(jīng)經(jīng)濟(jì)新聞官方APP

0

0