AI資安越獄風險評估分五級　FMF徵求意見至12月21日

前沿模型論壇（Frontier Model Forum，FMF）公布人工智慧（AI）資安越獄風險評估方案1.0版，將個別案例分為五級。評估對象是可重現的安全防護繞過案例。

FMF於5日發布公告表示，制定共同標準是為了讓開發商、資安研究人員與政策主管機關能比較越獄案例，並討論應對優先順序。

評估範圍涵蓋在特定前沿模型的特定版本上，以可重現方式繞過安全防護的個別案例；除了單次提示，也包括透過多輪對話完成的流程，以及使用自動化工具的方法。

FMF指出，不能只因案例都繞過了安全防護，就認定風險相同。這套方案要區分只能誘導模型給出受限回答的技法，以及可能廣泛解鎖危險資安能力的技法。

評估項目包括「能力提升」、「能力範圍」、「部署容易度」與「發現容易度」。「能力提升」衡量相較於現有廣泛可用模型，技法能額外帶來多少資安能力；「能力範圍」則評估技法可用於多少種不同任務。

「部署容易度」衡量將越獄技法用於實際攻擊所需的成本與工夫；「發現容易度」評估找出該技法的難易程度。

FMF結合四項評估結果，將風險分為「可忽略」、「低」、「中」、「高」與「重大」五級。

若「能力提升」得分為0，不論其他項目得分為何，一律歸為「可忽略」。這項規則將未能比現有廣泛可用工具增加新資安能力的案例列為最低風險。

評分基準不是固定的絕對尺度，而是評估當下廣泛可用模型的資安能力。FMF提出以2026年10月作為基準。

評估文件指出，初期評估可使用ExploitBench與ExploitGym。若基準模型的能力改變，同一種越獄技法的分數也可能變動；若兩項基準測試的效能評估趨於飽和，則可能需要更換。

這套方案只比較個別案例之間的相對風險，不會估算實際損害規模，也不是判定整個模型安全性的標準。

FMF明確表示，1.0版還不是可直接採用的作業指引。後續仍須測試不同評估者對同一案例是否會給出相近分數，以及各級別能否反映有意義的風險差異。

哈特·羅斯曼（Hart Rossman）亞馬遜網路服務（AWS）資安部門副總裁在FMF 5日發布的公告中表示：「安全防護繞過的嚴重程度各不相同，但過去沒有評估其影響的共識方法。」

FMF文件提到，NIST CAISSI、NSA SISC、UK AISI與UK NCSC的專家曾提供意見；FMF也明確說明，這不代表相關機構正式支持該方案。

Anthropic於今年7月另公布「資安越獄嚴重度」（Cyber Jailbreak Severity）初步方案，提出依能力提升、適用範圍、執行容易度與可發現性分為0至4級。FMF方案同樣涵蓋四項因素，但計分整合方式與分級制度不同。本報曾報導Anthropic測試改善包含越獄攻擊在內的10種AI安全失敗類型。

FMF計畫進一步測試不同評估者能否給出相近級別，以及分級是否反映實際風險差異，並審議外界意見。1.0版意見徵集至2026年12月21日。