資安公司CrowdStrike(CRWD)公開了一套名為「SAFE-MIND」的自主紅隊系統,讓扮演攻擊者的AI與扮演防禦者的AI互相對打,藉此把企業資安團隊在遭入侵後尋找攻擊路徑、進行修補的流程,交給AI反覆執行、自動完成。
根據SiliconANGLE的報導,CrowdStrike是在美國拉斯維加斯舉行的年度大會「Fal.Con 2026」上發表SAFE-MIND。公司提出的背景是,從遭入侵到在內部擴散開來的「突破時間(breakout time)」已經趨近於零,因此才需要這樣的系統因應。
SAFE-MIND由扮演攻擊角色的「Red Tempest」與扮演防禦角色的「Blue Solano」組成。兩個模型都以輝達(NVDA)的「Nemotron」模型為基礎,由CrowdStrike旗下的網路超級智慧實驗室(Cyber Superintelligence Lab)開發完成。
運作方式是一種封閉式的反覆流程。Red Tempest會在模擬客戶環境的「數位孿生(digital twin)」中尋找攻擊路徑,Blue Solano則針對找到的弱點進行修補,整個過程會不斷重複,直到系統裡不再有可利用的攻擊路徑為止。
所謂數位孿生,是在不直接碰觸實際系統的前提下,用虛擬方式重現營運環境。這種做法能在進行資安測試時降低服務中斷或資料毀損的風險,同時仍可驗證入侵路徑與防禦上的缺口。
CrowdStrike在官方資料中,把SAFE-MIND定位為同時執行攻擊與防禦的資安專用「代理式AI(agentic AI)」系統。公司說明,紅色代理會模仿真實攻擊者的行為,藍色代理則運用「Falcon遙測資料」找出並驗證防禦上的缺口。
值得留意的一點是,同一套AI技術同時被用在攻擊與防禦兩端。資安團隊可以靠自動化的攻擊模擬加快找出漏洞的速度,但攻擊者同樣能運用類似的自動化工具,這代表防守一方在應變速度上恐怕只會面臨更大壓力。(評論:這也顯示資安產業正逐漸走向「以AI對抗AI」的階段,防禦速度能否跟上攻擊自動化的步調,會是接下來的觀察重點。)
紅隊(red team)指的是從攻擊者角度出發、找出系統弱點的資安測試方式。過去多半仰賴人力設計情境、逐步確認入侵路徑,如今結合代理式AI之後,探索與驗證漏洞的流程有機會更快速地反覆進行。
SAFE-MIND目前是在CrowdStrike的Falcon平台中運作,若要個別取得使用權限,需透過名為「Project Quiltworks」的計畫申請。
CrowdStrike表示,網路超級智慧實驗室目前已經在營運,未來會持續把SAFE-MIND的研究成果,轉化為Falcon平台上的實際防護功能,也就是把研究結果落實到產品的偵測與阻擋能力中。
這項發展與加密貨幣產業也有交集。錢包、交易所、支付服務、開源函式庫等直接經手資產的系統,一旦遭到入侵,擴散速度往往會直接影響到最終的損失規模。
比特幣(BTC)的開源生態系先前也曾擴大運用AI進行漏洞檢測,當時討論的重點並非比特幣協定本身,而是錢包、閃電網路(Lightning)相關應用程式、軟體函式庫等周邊程式碼的資安檢查。
AI資安工具的存取權限,目前仍是尚待解決的課題。收緊使用限制能降低遭濫用的可能性,但也可能拖慢防禦用途研究的腳步;反過來說,放寬存取權雖然能加快找出漏洞的速度,但同一項功能同樣可能被攻擊者拿去使用。
目前能確認的內容,僅止於SAFE-MIND的架構、組成模型,以及它與Falcon平台的整合方式。實際成效如何,恐怕要等到更多客戶環境的導入案例與驗證結果累積之後,才會有比較明確的答案。
留言 0