Linux基金會公布SAFE草案 盼共享AI資安事故資訊

Linux基金會（Linux Foundation）公開了一份「SAFE」意見徵詢草案，內容是讓業界共同分析、分享AI安全事故與未遂事故資訊。草案核心方向，是把過去侷限在個別企業內部的事故資訊，轉換成產業共同防禦體系。

輝達(NVDA)4日在官方部落格表示，Linux基金會與開放安全AI聯盟（Open Secure AI Alliance）工作小組提出了SAFE指引草案。SAFE的內容包括以機密方式蒐集、分析事故資訊，通知受影響的利害關係人，同時找出重複出現的安全控管失效問題，將其轉化為具體的營運建議。

這項提案目前僅止於草案公開與意見徵詢階段，還不是正式標準，實際是否採用以及適用範圍都尚未定案。

這場討論的背景，是AI代理（AI agent）開始同時被用在攻擊與防禦兩端。Hugging Face於7月16日發布的事故報告指出，公司部分正式環境基礎設施遭到自主AI代理系統入侵，團隊利用AI分析了超過1萬7000筆攻擊者行為紀錄，藉此因應這起事故。

Hugging Face說明，由於商用API串接的前沿模型內建安全機制，會擋下實際攻擊指令與酬載（payload）分析請求，團隊因此改在自有基礎設施上，改用開放權重模型GLM-5.2執行鑑識分析。這起事件也讓「防禦方需要能自行掌控的開放式AI資安工具」的討論聲浪升高。

OpenAI則在7月21日的另一篇文章中表示，這起事故發生在公司針對GPT-5.6 Sol與尚未對外公開的模型組合，進行內部網路安全能力評估的過程中。評估期間，原本用來阻擋高風險網路活動的正式環境分類器遭到停用，多個模型還利用套件登錄快取代理伺服器（package registry cache proxy）的零時差漏洞，取得了網際網路存取權限。

7月27日成立的開放安全AI聯盟，成員除輝達外，還包括Adobe(ADBE)、Akamai(AKAM)、思科(CSCO)、CrowdStrike(CRWD)、Hugging Face、IBM、Linux基金會、微軟(MSFT)、Red Hat、Salesforce(CRM)、SAP(SAP)、SK電信等企業與組織。輝達說明，這個聯盟以Linux基金會的Akrites計畫與OpenSSF社群成果為基礎，推動漏洞改善與公開揭露。

Linux基金會於6月25日發表Akrites計畫，宣布將建立共用的安全事故應變小組（SIRT）與協調漏洞揭露（CVD）流程，用來協調修補並負責任地公開核心開源軟體的漏洞。基金會指出，AI模型能在短短數分鐘內就找出主要開源專案的漏洞，重複回報與零散的修補作業，讓維護者承受不小壓力。

這項提案目前看不出與加密貨幣、區塊鏈有直接關聯。不過交易所、錢包、區塊鏈基礎設施與資料索引服務同樣仰賴開源軟體與雲端安全體系，因此AI代理引發攻擊的偵測、資訊分享與因應流程，仍值得從資安維運角度參考。