8月26日晚間消息，360公司表示，AI關鍵基礎設施正面臨三重風險，包括某些人臉識別設備能讓任意人通過，不僅AI算法存在漏洞，其所依賴的關鍵基礎設施也同樣會被攻擊。
360 AI安全研究院表示，目前AI的三重風險包括：學習框架風險、硬件風險及云平臺風險。
第一，針對深度學習框架安全風險。深度學習框架主要可以劃分為云端學習框架和終端學習框架。云端框架安全風險主要來自于自身代碼的實現(xiàn)以及第三方的依賴庫問題；終端框架安全風險主要存在于模型網絡參數(shù)、模型網絡結構，以及模型轉換過程。
第二，針對硬件相關的安全風險。據英偉達官網統(tǒng)計，截至今年7月，關于GPU驅動漏洞的數(shù)目達到數(shù)百個；芯片漏洞以幽靈、熔斷為例，幽靈漏洞可以造成泄露敏感數(shù)據、執(zhí)行特定代碼，熔斷漏洞導致用戶態(tài)獲取特權內存的數(shù)據，這些漏洞影響了Intel、部分ARM的處理器。
第三，針對云平臺的安全風險。用于深度學習任務的節(jié)點性能強大，因此總會有一些攻擊者想要非法使用這些資源進行挖礦。比如，今年6月，微軟通報部分Kubeflow存在未授權訪問的問題，導致大量設備被非法挖礦。
“只有在確保AI系統(tǒng)的安全，才有可能放心享受AI的便利，那么保證系統(tǒng)中AI關鍵基礎設施的安全至關重要”，360 AI安全研究院表示，AI關鍵基礎設施的安全問題可以通過權限控制、訪問隔離、參數(shù)過濾等措施進行緩解，針對AI關鍵基礎設施的安全問題，需要建立多維度、一體化風險評估方法以及對應防御措施。
