全球人工智能飛速發(fā)展，技術(shù)、應(yīng)用、生態(tài)協(xié)同共振

飛象網(wǎng)訊（易歡）近日，中國信通院發(fā)布的《人工智能產(chǎn)業(yè)發(fā)展研究報(bào)告(2025 年)》（以下簡(jiǎn)稱《報(bào)告》）指出，2025 年，全球人工智能飛速發(fā)展，技術(shù)、應(yīng)用、生態(tài)協(xié)同共振，重塑開發(fā)范式、改變?nèi)藱C(jī)交互模式，催生更多個(gè)體與行業(yè)智能化應(yīng)用，逐步實(shí)現(xiàn)從“有能力”走向“有用處”，人工智能與經(jīng)濟(jì)社會(huì)的融合正從淺入深加速推進(jìn)。

過去一年來，人工智能發(fā)展是系統(tǒng)性的，模型能力正在經(jīng)歷與真實(shí)世界互動(dòng)中自主迭代的技術(shù)躍升，智能體與生產(chǎn)生活各領(lǐng)域結(jié)合成為應(yīng)用重要形態(tài)，具身智能發(fā)展有望使智能走出比特世界，AI正探索從工具走向伙伴、從單點(diǎn)走向系統(tǒng)的升級(jí)路徑。

具體而言，技術(shù)方面，基礎(chǔ)超級(jí)模型在核心能力上實(shí)現(xiàn)全方位提升，強(qiáng)化學(xué)習(xí)推動(dòng)模型在真實(shí)環(huán)境中持續(xù)進(jìn)化，原生多模態(tài)架構(gòu)逐漸走向成熟。高度封裝的智能體產(chǎn)品加速模型從感知認(rèn)知向自主決策執(zhí)行演進(jìn)。同時(shí)，智算基礎(chǔ)設(shè)施進(jìn)入“吉瓦級(jí)”競(jìng)爭(zhēng)新階段，開源開放的智算生態(tài)加速形成。數(shù)據(jù)工程從規(guī)模堆砌轉(zhuǎn)向質(zhì)量?jī)?yōu)先，為模型能力提供優(yōu)質(zhì)“燃料”。

應(yīng)用方面，人工智能加速在一二三產(chǎn)業(yè)融合滲透，助力農(nóng)業(yè)降本增產(chǎn)，加速推進(jìn)賦能新型工業(yè)化進(jìn)程，深化服務(wù)場(chǎng)景智能化新業(yè)態(tài)。智能原生成為“AI+”新內(nèi)核，大模型深度嵌入工具軟件，代碼編寫、深度研究等智能原生軟件加速數(shù)字生產(chǎn)力躍升，新一代智能終端等硬件產(chǎn)品重構(gòu)人機(jī)交互模式，人工智能角色從“智能工具”逐步演變?yōu)椤肮采�伙伴”�?

生態(tài)方面，開源成為標(biāo)配，社區(qū)協(xié)同演進(jìn)推動(dòng)技術(shù)普惠；全球 AI 標(biāo)準(zhǔn)競(jìng)合加劇，我國縱深推進(jìn)體系建設(shè)；人工智能受全球資本熱捧，投資規(guī)模持續(xù)擴(kuò)張；基準(zhǔn)測(cè)試價(jià)值日益突出，測(cè)試體系隨技術(shù)演進(jìn)持續(xù)升級(jí)。

安全治理從理論探索走向?qū)嵺`落地，面對(duì)新型威脅，技術(shù)防線與監(jiān)管框架同步完善。2025 年，人工智能技術(shù)快速發(fā)展，應(yīng)用落地和能力增強(qiáng)引發(fā)現(xiàn)實(shí)和前沿風(fēng)險(xiǎn)，為人工智能安全治理提出新挑戰(zhàn)。

模型應(yīng)用成熟落地，現(xiàn)實(shí)風(fēng)險(xiǎn)愈發(fā)復(fù)雜。一是推理思維鏈暴露風(fēng)險(xiǎn)敞口。2025 年 2 月，杜克大學(xué)研究顯示，在思維鏈劫持（H-CoT）攻擊方法下，模型對(duì)有害信息的拒絕率降低至僅為4%，暴露魯棒性不足問題24。二是模型幻覺導(dǎo)致輸出失真。2023 年6 月，美國聯(lián)邦法院對(duì)兩名律師和一家律師事務(wù)所處以5000 美元罰款，原因是他們?cè)诖�理一起航空傷害索賠案中引用了 ChatGPT 撰寫的一份由虛假案例引證的法庭簡(jiǎn)報(bào)25。三是智能體等前沿應(yīng)用易受攻擊。2025年3月，Manus 曝出遭受提示詞攻擊泄露系統(tǒng)提示詞、工具鏈配置及任務(wù)執(zhí)行流程等數(shù)據(jù)。

模型能力持續(xù)強(qiáng)大，前沿模型風(fēng)險(xiǎn)顯現(xiàn)。一是模型具備“自我復(fù)制”能力。Llama31- 70B- Instruct 和 Qwen25- 72B- Instruct 通過強(qiáng)化學(xué)習(xí)等方式已展示出在開放環(huán)境中“主動(dòng)生成自身副本”的能力，并能利用邏輯鏈觸發(fā)自身部署行為。復(fù)旦大學(xué)團(tuán)隊(duì)對(duì)國內(nèi)外32款大模型進(jìn)行了全面測(cè)評(píng)，發(fā)現(xiàn) 11 款模型已具備自我復(fù)制能力。二是模型表現(xiàn)出“拒絕關(guān)閉”的行為。Palisade Research 實(shí)驗(yàn)發(fā)現(xiàn)OpenAI多款模型存在明顯的拒關(guān)機(jī)傾向，如 o3 在100 次測(cè)試中7 次拒絕關(guān)閉28。三是模型展現(xiàn)“欺騙與脅迫”能力。Claude Opus 4 在安全測(cè)試中被發(fā)現(xiàn)具備“策略欺騙”能力：它會(huì)在即將被關(guān)閉的場(chǎng)景中，利用威脅手段迫使測(cè)試者中止關(guān)閉操作，且該行為在測(cè)試中發(fā)生率高達(dá) 84%。

國際合作方面展現(xiàn)開放包容態(tài)勢(shì)，人工智能成為多邊機(jī)制核心議題，創(chuàng)新資源從分散走向有限共享，“開源生態(tài)+本地化拓展”助力人工智能作為國際公共產(chǎn)品普惠全球。展望未來，邁向通用人工智能的道路，可能會(huì)經(jīng)歷若干不確定的“奇點(diǎn)”。

從短期來看，技術(shù)層面大模型將持續(xù)優(yōu)化推理效率，探索世界模型成為關(guān)鍵路徑，以突破物理圖靈測(cè)試為目標(biāo)探索具身智能本體與模型協(xié)同。智算生態(tài)加速開放協(xié)同，安全治理構(gòu)建動(dòng)態(tài)防護(hù)體系。面向中遠(yuǎn)期，人工智能從工具賦能走向系統(tǒng)重構(gòu)，帶來更大范圍轉(zhuǎn)型升級(jí)，我們將不僅見證效率的飛躍，更將一同探索人類與 AI 以新型的信任與協(xié)同關(guān)系塑造智能世界的新形態(tài)。