飛象網(wǎng)訊（易歡）當前，人工智能技術顛覆性、跨越式突破引發(fā)通用人工智能新一輪發(fā)展熱潮，推動全球人工智能治理進入規(guī)則構(gòu)建的關鍵階段。中國信息通信研究院發(fā)布的《人工智能治理藍皮書(2024 年)》指出，隨著人工智能的飛速發(fā)展，人工智能領域發(fā)展不平衡、規(guī)則不健全、秩序不合理等問題日益顯現(xiàn)，全球人工智能治理面臨前所未有的挑戰(zhàn)。并提出，未來，人類社會將邁向更深層次的智能化發(fā)展階段，需要系統(tǒng)謀劃、綜合施策，在倫理監(jiān)測、制度設計、監(jiān)管模式、國際合作等方面持續(xù)改革創(chuàng)新。
人工智能治理面臨復雜多變新形勢
近一年來，大模型等新技術帶動全球人工智能行業(yè)實現(xiàn)高速增長。從產(chǎn)業(yè)規(guī)模來看，受人工智能存儲、服務器等基礎設施市場拉動，2024年全球人工智能產(chǎn)業(yè)收入高速增長。據(jù) IDC 預測，2024 年全球人工智能產(chǎn)業(yè)收入規(guī)模達 6421.8 億美元，同比增長22.2%。
與此同時，人工智能技術創(chuàng)新需求持續(xù)加大，產(chǎn)業(yè)鏈條拉長、商業(yè)生態(tài)分化等特征顯現(xiàn)。自 2022 年 11 月 ChatGPT 發(fā)布以來，人工智能已被應用于金融、法律、設計等多個行業(yè)。人工智能產(chǎn)業(yè)鏈條從大多數(shù)情況下由單一企業(yè)完成，發(fā)展為在開發(fā)、調(diào)優(yōu)、應用等不同環(huán)節(jié)，由不同企業(yè)合作完成。圍繞生態(tài)主企業(yè)構(gòu)建的商業(yè)生態(tài)開始出現(xiàn)分化，開源與閉源、通用與專用等不同路線均呈現(xiàn)競爭與融合并存態(tài)勢。
人工智能技術深刻變革、迅速發(fā)展的同時全球人工智能治理面臨復雜多變新形勢�！度斯ぶ悄苤卫硭{皮書(2024 年)》強調(diào)，全球人工智能行業(yè)實現(xiàn)高速增長，在產(chǎn)業(yè)規(guī)模、投融資、企業(yè)數(shù)量等方面表現(xiàn)明顯，具身智能、數(shù)字人等人工智能應用將驅(qū)動下一輪產(chǎn)業(yè)洗牌。通用人工智能技術飛速躍遷敲響安全警鐘，幻覺難消除、場景難限定、責任難追溯等特性放大了虛假信息、隱私侵犯、網(wǎng)絡犯罪等現(xiàn)實風險。
其中，在治理需求方面，人工智能安全可控和發(fā)展優(yōu)先路線并存。一方面，國際社會普遍關注人工智能風險問題，將“安全、可靠和值得信賴”理念納入多部共識文件；同時探索通過英國、韓國、法國系列人工智能峰會，推進全球安全研究網(wǎng)絡和評估評測合作。另一方面，各國對技術發(fā)展不平衡帶來的“智能鴻溝”問題表示憂慮。
多元主體協(xié)同推進人工智能治理進程
《人工智能治理藍皮書(2024 年)》指出，為了推進人工智能治理進程需多元主體協(xié)同。主要經(jīng)濟體政府監(jiān)管模式各異，規(guī)則落地取得實質(zhì)進展。以我國為例，我國構(gòu)建四大層級制度體系，初步形成三項落地舉措從橫向來看，我國堅持人工智能發(fā)展與安全并重，強調(diào)國家主導，涵蓋頂層設計、法律制度、部門規(guī)章和技術標準四大層面，形成了由政府引導、多部門協(xié)同、公私部門合作參與的全方位治理格局。此外，已有立法為人工智能治理奠定扎實制度基礎。
部門規(guī)章方面，我國人工智能治理自2017 年起至今經(jīng)歷了三個階段，體現(xiàn)出急用先行的治理特點。標準方面，各部門圍繞產(chǎn)業(yè)發(fā)展和風險治理出臺多項人工智能標準，為企業(yè)合規(guī)提供具體指引。實踐方面，我國形成監(jiān)管備案、倫理審查和安全框架三個維度相互獨立又緊密關聯(lián)，各有側(cè)重但相輔相成的制度保障體系。
此外，企業(yè)和專業(yè)機構(gòu)等主體創(chuàng)新探索，形成協(xié)同共治生態(tài)圈�？萍计髽I(yè)、技術社區(qū)、行業(yè)共同體作為人工智能研發(fā)、部署和應用第一線的先行者，通過提供技術工具、充當“資源中介”、促進信息流動以及參與國際治理等發(fā)揮重要作用。
國際人工智能治理日益深化，三大維度熱點持續(xù)深化。新一輪人工智能技術創(chuàng)新導致治理舉措急劇增加，國家、國際和區(qū)域組織等競相發(fā)布原則、宣言、聲明等，全球人工智能治理格局復雜而分散，包容性有待進一步提升。機制層面，聯(lián)合國醞釀新的人工智能治理協(xié)調(diào)機制；議題層面，人工智能發(fā)展優(yōu)先與風險管控路線并行；執(zhí)行層面，各方推動高層次承諾向可執(zhí)行政策落地。
五大對策建議加速推進人工智能治理
人工智能作為我國實施創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略的關鍵力量，是加快形成新質(zhì)生產(chǎn)力的重要引擎。展望未來，人工智能技術帶來的發(fā)展紅利和全球性挑戰(zhàn)同步顯現(xiàn)，各國圍繞人工智能評估評測、知識產(chǎn)權、價值對齊等加速搭建規(guī)則標準體系，人工智能治理加速邁入實踐落地和國際合作的關鍵窗口。
藍皮書也對加速推進人工智能治理提出了五點建議：一是深化落地人工智能協(xié)同敏捷治理模式探索敏捷治理理念，建立靈活性、全面性制度框架，推動人工智能高質(zhì)量發(fā)展和高水平安全實現(xiàn)良性互動。二是系統(tǒng)監(jiān)測預警人工智能倫理社會影響為有效應對具身智能、數(shù)字人等應用帶來的情感依賴、勞動替代等倫理挑戰(zhàn)，應對相關倫理影響進行系統(tǒng)監(jiān)測預警。三是圍繞要素和場景細化負責任創(chuàng)新方案面對人工智能帶來的制度性挑戰(zhàn)，針對產(chǎn)業(yè)鏈各環(huán)節(jié)，堅持“小步快跑”“邊發(fā)展邊治理”的制度路徑具有重要現(xiàn)實意義。四是立足于全生命周期優(yōu)化安全技術工具人工智能治理既需要完善治理理念與規(guī)則，也需要優(yōu)化治理手段與能力，進一步更新豐富治理工具箱。五是加速落地全球人工智能能力建設方案人工智能治理攸關全人類命運，是世界各國面臨的共同課題，應積極參與并推動國際合作治理。
