首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數據|物聯網|量子|元宇宙|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 相關報道 >> 正文

中國電信發(fā)布全球首個單體稠密萬億參數語義模型Tele-FLM-1T

2024年6月19日 19:35  CCTIME飛象網  

飛象網訊 6月14日,在北京智源大會上,中國電信人工智能研究院(TeleAI)聯合北京智源人工智能研究院發(fā)布全球首個單體稠密萬億參數語義模型Tele-FLM-1T,成為國內首批發(fā)布稠密萬億參數大模型的機構。

針對大模型訓練算力消耗高的問題,TeleAI與智源基于模型生長和損失預測等關鍵技術聯合研發(fā)出的Tele-FLM系列模型僅使用了業(yè)界普通訓練方案9%的算力資源。基于112臺A800服務器,用4個月完成3個模型總計2.3T tokens的訓練。模型訓練全程做到了零調整零重試,算力能效高且模型收斂性和穩(wěn)定性好。Tele-FLM-1T版本即將開源,期望為社區(qū)訓練萬億稠密模型提供技術參考,避免萬億模型訓練收斂難等問題。

作為最早布局并首先開源大模型的央企機構,TeleAI在中國電信CTO、TeleAI院長李學龍帶領下,堅持全鏈路完全自主研發(fā)創(chuàng)新,去年便發(fā)布了千億參數“星辰”語義大模型,性能處于國內同級別參數模型的前列。今年2月,TeleAI自主研發(fā)的星辰大模型首次通過了“境內深度合成服務算法備案”。隨后,在5月15日,根據北京市生成式人工智能服務備案信息公告,星辰大模型再次通過產品備案!半p備案”標志著星辰大模型可正式對外提供生成式人工智能服務。

同時,TeleAI也積極通過開源推動大模型技術進步和大模型國產化進程,加快研發(fā)創(chuàng)新,接連開源7B、12B、52B參數規(guī)模大模型,吸引國內外開源社區(qū)開發(fā)者廣泛討論和使用,開源模型下載量過萬,積累超40W+用戶。隨著TeleChat系列模型的發(fā)布,TeleAI也同步對多個大模型落地項目進行了能力升級,顯著提升了項目交付的質量。在某市民生訴求場景項目上,通過引入TeleChat-52B模型能力,整體應用效果提升40%,達到了行業(yè)內領先水平。同時,在長文生成和知識采編等多個應用領域,也取得了顯著的進步。

此外,依托中國電信在多個行業(yè)深耕多年的深厚優(yōu)勢與豐富經驗,攜手行業(yè)領軍者共同打造了覆蓋教育、政務、應急等超過20個行業(yè)的大型模型。并通過不斷升級的語音、視覺以及多模態(tài)大模型技術能力,共同推動大模型技術與各行業(yè)的深度融合,助力千行百業(yè)轉型升級。未來,TeleAI也將進一步為客戶、生態(tài)伙伴、開發(fā)者及個人用戶等提供前沿的AI能力,賦能千行百業(yè)變革的同時也提升個人工作效率和日常生活便利性,切實推進國內AI技術進步及落地應用,加速全社會邁向通用人工智能時代。

TeleChat-52B開源模型鏈接:

https://github.com/Tele-AI/TeleChat-52B

Tele-FLM-1T開源鏈接敬請期待。

編 輯:魏德齡
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創(chuàng)”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發(fā)之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國移動王曉云:6G已經進入面向產業(yè)技術創(chuàng)新的全新階段
精彩專題
2024中國算力大會
2024年國際信息通信展
中國信科亮相2024年國際信息通信展
第25屆中國國際光電博覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像