SAFE指引問世：輝達等百家聯盟倡議共享AI資安事故

輝達(NVDA)參與的開放安全AI聯盟(Open Secure AI Alliance)提出「共享AI調查結果交流(SAFE)」指引,呼籲業界共同分析並分享AI代理的資安事故案例。隨著AI技術同時被用於攻擊與防禦,單靠個別企業因應資安威脅已顯不足,這項提案正是為此而生。

根據輝達官方部落格於4日的說明,Linux基金會(Linux Foundation)已公開SAFE意見徵詢稿。SAFE規劃以機密方式蒐集並分析AI資安事故與「未遂事故」,通報受影響對象,同時找出反覆出現的控管缺失,並將其整理為營運建議公開。

這項提案在初期階段就有輝達、思科(CSCO)、CrowdStrike(CRWD)、Hugging Face、紅帽(Red Hat)等企業參與。輝達指出,聯盟會員已突破120家。這個於7月27日成立的聯盟,目前還有Adobe(ADBE)、Cloudflare(NET)、IBM、微軟(MSFT)、NAVER、Palantir(PLTR)、SK電訊等企業陸續加入。

指引內容也反映了Hugging Face於7月16日公開的資安事故案例。Hugging Face在因應部分生產基礎設施遭入侵的過程中,確認有限的內部資料集與部分服務憑證遭到未經授權存取,但未發現公開模型、資料集與Space遭竄改的證據。

Hugging Face在事故分析階段,運用AI分析了超過1萬7000筆攻擊者行為紀錄。團隊原本打算優先使用以API串接的前沿模型進行分析,但因請求內容包含實際攻擊指令與酬載(payload),遭安全機制擋下,最終改在自家基礎設施上運行開源權重模型GLM-5.2,完成鑑識分析。

輝達將AI代理的資安問題定位為不只是單一模型的課題,而是涵蓋身分與權限、執行環境、防護機制(guardrail)、日誌紀錄與評估體系的「全端」問題。該公司並提出NOOA研究工具、OpenShell執行環境與Garak弱點掃描器,作為此次貢獻的項目。

外界對此反應不一,討論聚焦在共同防禦的必要性與開源模型的風險。Hugging Face部落格留言區中,有讀者認為企業應自備可獨立執行的模型以因應資安事故,也有人指出事故細節與弱點資訊揭露得不夠充分。

這次提案內容與加密貨幣市場沒有直接關聯,聚焦在AI晶片、資料中心與雲端基礎設施的資安營運體系。CrowdStrike則表示,正在針對輝達Nemotron Nano模型進行微調,以用於網路防禦,內部測試顯示其在Falcon LogScale調查查詢生成的準確率達到96%。

本文查證來源包括輝達部落格公開的SAFE指引說明文章、輝達稍早發布的開放安全AI聯盟成立公告,以及Hugging Face於2026年7月發布的資安事故公告。