2023-11-27 21:43:50
每經(jīng)AI快訊,11月27日,浪潮信息發(fā)布旗下開源千億參數(shù)大模型系列“源2.0”。據(jù)悉該系列模型免費可商用,有參數(shù)值102B(1026億)、51B(518億)、2B(21億)三個版本,相關(guān)成果已開源,并提交了研究論文。浪潮信息在其論文中稱,源2.0在代碼、數(shù)學和事實問答等方面的能力測試表現(xiàn)好于Meta的開源大模型Llama 2。
在算法上,源2.0開發(fā)團隊提出局部注意力過濾增強機制LFA(Localized Filtering-based Attention),更關(guān)注上下文之間的強語義關(guān)聯(lián)。在數(shù)據(jù)集方面,浪潮信息主要使用中英文書籍、百科、論文等資料。(每日經(jīng)濟新聞)
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟新聞APP