一起昇騰，共贏行業(yè)智能化

[中國(guó)，深圳，2026年3月20日] 在華為中國(guó)合作伙伴大會(huì)2026期間，以“與時(shí)代，共昇騰”為主題的昇騰人工智能伙伴峰會(huì)在深圳成功舉行。會(huì)上，華為昇騰計(jì)算業(yè)務(wù)總裁張迪煊發(fā)表主題為《一起昇騰，共贏行業(yè)智能化》的主題演講。他表示隨著開(kāi)源模型能力持續(xù)躍升、Tokens指數(shù)級(jí)增長(zhǎng)，產(chǎn)業(yè)正加速邁入Agentic AI新時(shí)代，2026 年將成為強(qiáng)化學(xué)習(xí)與Agent應(yīng)用規(guī)�；�落地的關(guān)鍵元年。圍繞AI演進(jìn)趨勢(shì)與行業(yè)真實(shí)訴求，昇騰打造大中小系列化算力，使能伙伴滿足差異化場(chǎng)景需求，共同深耕行業(yè)智能化。

華為昇騰計(jì)算業(yè)務(wù)總裁  張迪煊

以下是張迪煊的演講全文

各位來(lái)賓，線上線下的朋友們，大家下午好！非常榮幸與各位再次相聚華為中國(guó)合作伙伴大會(huì)——昇騰人工智能伙伴峰會(huì)。今天，我將與大家分享并共同探索行業(yè)智能化落地加速的路徑。

昇騰開(kāi)源開(kāi)放，與伙伴攜手共贏行業(yè)智能化

2025年，是昇騰沉淀技術(shù)、擁抱開(kāi)源、把握機(jī)遇的一年。去年8月，在北京我們正式宣布CANN和Mind系列軟件全面開(kāi)源開(kāi)放，架構(gòu)解耦。同時(shí)，積極貢獻(xiàn)關(guān)鍵特性，與業(yè)界共創(chuàng)。比如，聯(lián)合科大訊飛落地了大EP技術(shù)，并在9月份貢獻(xiàn)到了vLLM社區(qū)。在這之前，該社區(qū)主要聚焦單機(jī)推理能力提升，大EP特性發(fā)布填補(bǔ)了業(yè)界多機(jī)推理加速能力的空白，有效激發(fā)了更多的伙伴和開(kāi)發(fā)者的實(shí)踐和創(chuàng)新。

目前，昇騰已向三方社區(qū)累計(jì)貢獻(xiàn)超過(guò)11萬(wàn)行代碼，讓技術(shù)共享，讓創(chuàng)新加速。昇騰始終與主流生態(tài)保持同頻。我們識(shí)別并快速響應(yīng)開(kāi)發(fā)者需求，在畢昇編譯器層構(gòu)建了AscendNPU IR，平滑對(duì)接Triton，讓開(kāi)發(fā)者保持當(dāng)前使用習(xí)慣。 除了算子開(kāi)發(fā)框架，昇騰還兼容了FSDP2、verl、vLLM、xLLM等50多個(gè)主流開(kāi)源社區(qū)和項(xiàng)目，意味著當(dāng)前所有訓(xùn)練和推理的創(chuàng)新都可以基于昇騰快速實(shí)現(xiàn)；通過(guò)對(duì)開(kāi)源模型的0day支持，開(kāi)發(fā)者還可以第一時(shí)間享受業(yè)界最新的模型能力，也有越來(lái)越多的SOTA開(kāi)源模型基于昇騰原生孵化。智譜基于昇騰，三個(gè)月完成了多模態(tài)大模型GLM-Image的訓(xùn)練，這個(gè)模型創(chuàng)新性采用了自回歸 + 擴(kuò)散的混合架構(gòu)，開(kāi)源不到24小時(shí)就登頂了Hugging Face Trending榜第一！有力證明了在昇騰上可以訓(xùn)練出世界級(jí)領(lǐng)先的大模型。

去年DeepSeek一發(fā)布，春節(jié)期間我們迅速在上海練秋湖集結(jié)了500多人攻關(guān)會(huì)戰(zhàn)，不到一周就發(fā)布了大模型應(yīng)用一體機(jī)參考配置，使能80多家伙伴2周內(nèi)發(fā)布了自己的一體機(jī)產(chǎn)品，快速搶占市場(chǎng)。一年的時(shí)間，已有350多家伙伴打造了400多款深入業(yè)務(wù)場(chǎng)景的一體機(jī)產(chǎn)品，服務(wù)了2700多家客戶，占據(jù)國(guó)內(nèi)一體機(jī)市場(chǎng)80%以上的份額。期間，也涌現(xiàn)了一大批能力型伙伴，不僅發(fā)布了新產(chǎn)品，也通過(guò)技術(shù)團(tuán)隊(duì)向客戶提供專業(yè)AI服務(wù)，加速了大模型在各行各業(yè)的快速落地。

大模型智能水平快速提升，2026年是“強(qiáng)化學(xué)習(xí) & Agent 應(yīng)用”規(guī)模落地的元年

過(guò)去三年，是AI快速發(fā)展的三年。2023年“大模型元年” ，讓模型從感知理解走向生成創(chuàng)造；2024年迎來(lái)“大模型推理元年”，我們判斷Tokens將成為AI時(shí)代的新量綱；2025年，中國(guó)大模型積極開(kāi)源，憑借出色的性能成為應(yīng)用首選，Tokens使用量呈爆發(fā)式增長(zhǎng)，席卷各行各業(yè)。

現(xiàn)在，我們正式邁入Agentic AI時(shí)代，這是一個(gè)AI產(chǎn)業(yè)發(fā)展的全新拐點(diǎn)，標(biāo)志著AI從“會(huì)聊天”向“能辦事”實(shí)現(xiàn)升級(jí)。在To C場(chǎng)景，OpenClaw成為新一輪現(xiàn)象級(jí)應(yīng)用，短短幾周內(nèi)star數(shù)超過(guò)32萬(wàn)，新增百萬(wàn)用戶，已成為最受歡迎的開(kāi)源項(xiàng)目。國(guó)內(nèi)頭部互聯(lián)網(wǎng)爭(zhēng)相布局智能體入口，企業(yè)和個(gè)人也都在積極參與，打造專屬個(gè)人智能助理。在To B場(chǎng)景，AI正深度滲透生產(chǎn)、決策等環(huán)節(jié)，基座模型落地到行業(yè)核心場(chǎng)景需要行業(yè)專業(yè)知識(shí)，強(qiáng)化學(xué)習(xí)成為必選之路。而支撐這一切的核心，是海量的Tokens。Tokens將成為AI時(shí)代的大宗商品，其計(jì)算效率直接決定企業(yè)的核心收益。

昇騰開(kāi)放大中小系列化算力，使能伙伴滿足差異化場(chǎng)景需求，共同深耕行業(yè)智能化

一是大算力場(chǎng)景。主要滿足大模型預(yù)訓(xùn)練、強(qiáng)化學(xué)習(xí)后訓(xùn)練以及大規(guī)模推理服務(wù)需求。昇騰將持續(xù)深耕技術(shù)研發(fā)，打造領(lǐng)先的超節(jié)點(diǎn)架構(gòu)及產(chǎn)品，開(kāi)放靈衢協(xié)議、部件及參考架構(gòu)，使能伙伴打造超節(jié)點(diǎn)系統(tǒng)，助力企業(yè)重塑核心業(yè)務(wù)。

二是中算力場(chǎng)景。覆蓋輔助醫(yī)療、智慧教學(xué)等主流行業(yè)應(yīng)用場(chǎng)景，昇騰圍繞“開(kāi)箱即用”，兼具“快速部署”與“成本可控“的平衡 ，開(kāi)放中心模組/刀片�；锇榭山Y(jié)合模型及軟件生態(tài)，打造大模型應(yīng)用一體機(jī)、高密服務(wù)器等產(chǎn)品，加速行業(yè)智能化升級(jí)進(jìn)程。

三是小算力場(chǎng)景。聚焦工業(yè)質(zhì)檢、具身智能、科研教學(xué)等智能邊端領(lǐng)域，客戶核心訴求為靈活高效、成本可控。昇騰開(kāi)放標(biāo)準(zhǔn)模組和板卡，使能伙伴打造多樣化邊緣算力設(shè)備，滿足差異化市場(chǎng)需求，這也是潛力最大的海量市場(chǎng)。

面向大規(guī)模推理服務(wù)場(chǎng)景，昇騰開(kāi)源開(kāi)放超節(jié)點(diǎn)+大 EP，聯(lián)合伙伴打造最佳推理方案

AI Agent已經(jīng)成為企業(yè)智能化的必備工具，其多輪自我迭代帶來(lái)了百倍級(jí)Tokens需求和10ms級(jí)時(shí)延要求。傳統(tǒng)服務(wù)器堆疊的方式存在局限，以Atlas 800 A2為例，每臺(tái)服務(wù)器最多配置512GB片上內(nèi)存，即便通過(guò)以太網(wǎng)組建96臺(tái)規(guī)模的集群，總內(nèi)存達(dá)到48TB，但各服務(wù)器的內(nèi)存仍從0到512GB獨(dú)立編址，跨服務(wù)器交互依賴以太網(wǎng)通信，涉及數(shù)據(jù)拷貝、協(xié)議轉(zhuǎn)換、網(wǎng)絡(luò)傳輸?shù)榷鄠�(gè)環(huán)節(jié)，存在較大性能開(kāi)銷。

昇騰384超節(jié)點(diǎn)可實(shí)現(xiàn)48TB內(nèi)存統(tǒng)一編址，全局內(nèi)存共享，共享內(nèi)存容量較傳統(tǒng)方式提升96倍。所有NPU之間的交互可通過(guò)Load&Store等內(nèi)存語(yǔ)義直接操作，無(wú)需經(jīng)過(guò)復(fù)雜的通信協(xié)議轉(zhuǎn)換，數(shù)據(jù)交互效率提升三倍。更大的共享內(nèi)存池，可實(shí)現(xiàn)更高的KVCache，滿足Agent超長(zhǎng)上下文，推理Decode吞吐倍級(jí)提升。超節(jié)點(diǎn)天然親和Agent負(fù)載，是大規(guī)模推理的必選！而“內(nèi)存統(tǒng)一編址”和“內(nèi)存語(yǔ)義訪問(wèn)”是判斷超節(jié)點(diǎn)的核心標(biāo)準(zhǔn)。

同時(shí)，昇騰為伙伴提供三種靈活高效的實(shí)現(xiàn)路徑，助力伙伴基于超節(jié)點(diǎn)+大EP能力，構(gòu)建更佳推理方案。

一是復(fù)用MindIE已有的成熟大EP方案部署應(yīng)用，無(wú)需額外開(kāi)發(fā)，實(shí)現(xiàn)客戶業(yè)務(wù)快速上線；二是通過(guò)代碼或插件合入vLLM、SGLang兩大開(kāi)源推理引擎，無(wú)縫集成，降低遷移成本；三是基于CANN進(jìn)行深度定制，打造貼合自身業(yè)務(wù)場(chǎng)景的極致性能推理引擎。目前硅基流動(dòng)、清昴智能等能力型伙伴，已基于昇騰構(gòu)建打造推理引擎，面向金融等客戶提供大規(guī)模推理服務(wù)，在手機(jī)銀行、代碼助手等業(yè)務(wù)場(chǎng)景，多輪任務(wù)應(yīng)答速度提升3倍。

面向強(qiáng)化學(xué)習(xí)后訓(xùn)練場(chǎng)景，昇騰開(kāi)源全流程最佳實(shí)踐，與伙伴共助客戶打造行業(yè)專屬模型

面向強(qiáng)化學(xué)習(xí)后訓(xùn)練場(chǎng)景，昇騰沉淀了一套完整的強(qiáng)化學(xué)習(xí)后訓(xùn)練最佳實(shí)踐，伙伴可以選擇最新的RL模型、算法及框架，通過(guò)完整Docker鏡像，一鍵完成部署；部署完成后，如何實(shí)現(xiàn)訓(xùn)推資源的合理調(diào)度，提升傳輸效率，保持訓(xùn)推一致，是業(yè)界普遍關(guān)注的核心問(wèn)題。當(dāng)前，業(yè)界RL框架普遍采用單控制器模式，指令數(shù)據(jù)與樣本數(shù)據(jù)均需經(jīng)過(guò)控制器中轉(zhuǎn)，一輪rollout下來(lái)需占用百GB級(jí)內(nèi)存占用，在大規(guī)模后訓(xùn)練時(shí)，在大規(guī)模后訓(xùn)練場(chǎng)景中，內(nèi)存容量和網(wǎng)絡(luò)帶寬極易成為性能瓶頸。

為此，昇騰創(chuàng)新推出了“異步流式數(shù)據(jù)引擎TQ”技術(shù)，通過(guò)將控制流與數(shù)據(jù)流解耦，實(shí)現(xiàn)樣本數(shù)據(jù)不經(jīng)過(guò)控制器，可直接在推理節(jié)點(diǎn)和訓(xùn)練節(jié)點(diǎn)之間交互。依托超節(jié)點(diǎn)內(nèi)存統(tǒng)一編址，訓(xùn)練節(jié)點(diǎn)可以通過(guò)load&stroe快速讀取推理節(jié)點(diǎn)生成的樣本數(shù)據(jù)，端到端性能可提升40%以上，進(jìn)一步印證超節(jié)點(diǎn)內(nèi)存統(tǒng)一編址的核心價(jià)值。

目前，該特性已經(jīng)合入verl社區(qū)，并成功應(yīng)用于商業(yè)化廣告、信貸風(fēng)控等核心場(chǎng)景，實(shí)現(xiàn)了倍級(jí)性能提升。昇騰將持續(xù)圍繞精度優(yōu)化、訓(xùn)推轉(zhuǎn)換、訓(xùn)練及推理加速，提供業(yè)界最全、最新的RL加速特性，并第一時(shí)間貢獻(xiàn)到開(kāi)源社區(qū)，讓伙伴及開(kāi)發(fā)者即取即用。

軟硬件升級(jí)，開(kāi)源Agent參考設(shè)計(jì)，使能伙伴打造開(kāi)箱即用的“Claw一體機(jī)”

面向國(guó)計(jì)民生大模型應(yīng)用場(chǎng)景，昇騰產(chǎn)品實(shí)現(xiàn)全面升級(jí)，分級(jí)分檔，適配不同模型需求：面向百億級(jí)模型，開(kāi)放A2標(biāo)卡，內(nèi)存帶寬達(dá)業(yè)界1.85倍，實(shí)現(xiàn)100ms推理時(shí)延；面向千億級(jí)模型，提供單機(jī)服務(wù)器，單機(jī)算力8.96P，是業(yè)界的2.3倍；面向萬(wàn)億級(jí)模型，提供雙機(jī)超節(jié)點(diǎn)服務(wù)器，雙機(jī)間靈衢直連，是業(yè)界唯一能夠部署T級(jí)模型的產(chǎn)品，整機(jī)算力達(dá)3.78倍業(yè)界，突破20ms低時(shí)延，提供極致使用體驗(yàn)。

為支持好人人養(yǎng)好“龍蝦”，昇騰推出Agentic開(kāi)源參考設(shè)計(jì)，將深度適配優(yōu)化后的推理引擎、主流開(kāi)源模型權(quán)重，以及OpenClaw等Agent AI框架打包成完整鏡像，伙伴只需聚焦業(yè)務(wù)集成、Skill開(kāi)發(fā)等，即可快速打造Agent應(yīng)用一體機(jī)。

基于雙機(jī)超節(jié)點(diǎn)服務(wù)器打造的一體機(jī)，在Kimi K2.5 1T模型上每日可提供20億Tokens，若搭載MiniMax 230B模型，Tokens供給量可達(dá)到100多億，真正實(shí)現(xiàn)“飼料”管夠，“養(yǎng)蝦”無(wú)憂。目前，已有20多家伙伴正在落地Agent一體機(jī)產(chǎn)品，服務(wù)教育、醫(yī)療、金融、政府等行業(yè)核心領(lǐng)域，引領(lǐng)行業(yè)智能體產(chǎn)業(yè)新變革。

面向推薦、多模態(tài)、LLM三大推理場(chǎng)景，提供Atlas 350加速卡，使能伙伴打造高性能推理方案

Atlas 350加速卡面向推薦、多模態(tài)、LLM三大核心推理場(chǎng)景，為伙伴提供多精度、更靈活、更易用的加速卡。搭載全新的昇騰950PR處理器，性能實(shí)現(xiàn)全面升級(jí)，實(shí)現(xiàn)性能較業(yè)界同類產(chǎn)品領(lǐng)先1至1.4倍。

核心優(yōu)勢(shì)體現(xiàn)在三方面：一是算力、內(nèi)存雙升級(jí)，單卡算力可達(dá)業(yè)界的2.8倍以上，是目前國(guó)內(nèi)唯一支mxFP4低精格式的推理產(chǎn)品。片上內(nèi)存最大提升至112GB，達(dá)業(yè)界1.1倍以上。大算力+大內(nèi)存，多模態(tài)生成性能直接提升60%。二是訪存更靈活，Cache-line的訪存粒度降低到128字節(jié)，使搜索推薦等場(chǎng)景中海量小算子的訪存效率提升4倍；三是開(kāi)發(fā)更易用，支持SIMT+SIMD混合編程，全面支持主流推理算子，滿足伙伴多樣化開(kāi)發(fā)需求，伙伴可以基于Atlas 350加速卡打造更高性能的推理方案。

聯(lián)合伙伴深入行業(yè)核心，打造應(yīng)用場(chǎng)景解決方案，加速千行萬(wàn)業(yè)走深向?qū)?/STRONG>