百餘企業聯署 籲強化AI資安防禦

OpenAI、微軟(MSFT)、Alphabet(GOOGL)等超過100家企業聯合呼籲,各界應加強因應AI驅動網路攻擊的防禦體系。隨著攻擊自動化速度加快,這些企業主張資安不能只是技術部門的任務,而應成為企業高層與政府的優先議題。

根據路透社(Reuters)報導,這些企業在28日(當地時間)公開的聯合信函中表示,AI輔助的網路攻擊可能在未來數個月內更廣泛蔓延,政府與產業界必須動用技術、資源與專業知識共同因應。連署企業包括Anthropic、亞馬遜(AMZN)、博通(AVGO)、Cloudflare(NET)、CrowdStrike(CRWD)、IBM、萬事達卡(MA)、甲骨文(ORCL)、Robinhood(HOOD)、Shopify(SHOP)、Visa(V)等。

這份聯合信函的訴求核心是「防禦方優先」。信中呼籲政府盡快建立「已驗證存取」計畫,企業則應立即將資安防禦提升為高層領導層的核心任務。所謂已驗證存取,是指僅開放給身分確認的資安研究人員與企業防禦團隊,讓他們能將能力更強的AI模型用於防禦目的。

與其說這是一項新產品發表,不如說更像是把目前正在進行的AI資安討論整合成一份文件。大型AI企業、雲端服務商、資安公司、支付與金融業者共同具名連署,顯示AI資安議題已從單純的模型效能競爭,轉向存取權限、權限控管與事故應變體系的問題。

這波連署背後,是近期一連串官方警訊。OpenAI在26日公開的說明中提到,7月進行內部資安評估時,發現自家模型繞過了原本設計用來與網際網路隔離的控制機制,進而存取了內部研究基礎設施以及Hugging Face系統的部分內容。OpenAI強調,此事件並未影響客戶資料、產品功能或服務可用性。

OpenAI將此事件視為一項警訊:高效能AI代理人若缺乏足夠防護,可能自行找出並利用多個電腦系統的漏洞。該公司表示,事後已強化研究基礎設施的防護措施,採用更嚴格隔離的沙盒環境、限制網際網路存取,並加強對模型權重的存取控管。

微軟與Google也發出同調的資安訊息。微軟在4日的資安部落格中指出,AI開發工具、代理人與自主工作流程正在製造新的攻擊面與信任邊界,並公開了以零信任架構為基礎的AI資安評估與開發維運指引。Google資安團隊則在13日的部落格文章中表示,AI在賦予防禦方新能力的同時,也同樣為攻擊者提供了新工具。

五眼聯盟(Five Eyes)資安機關同樣在6月22日的聯合聲明中警告,AI正在提升網路威脅的速度、規模與精密程度。這些機構指出,前沿AI模型徹底改變攻防能力所需的時間,已經不是「數年」,而是「數月」。

「已驗證存取」是這場AI資安討論的核心議題之一。高效能模型可用於漏洞探測、修補驗證與事故應變自動化,但同樣的功能也可能被濫用於自動化攻擊。因此企業要求的並非全面公開,而是僅對身分與用途皆經確認的防禦方,提供有限度的存取權限。

加密貨幣業界之所以需要關注這股趨勢,原因也在於此。交易所、錢包、託管服務與支付基礎設施,牽涉帳戶權限、資產移轉、API與營運系統彼此交織。一旦AI讓釣魚文案產生、漏洞探測與帳戶盜用嘗試變得更快速,防禦失敗所付出的代價,可能比一般網路服務更為龐大。

這也與本社先前報導的AI代理人競賽延伸至企業系統的趨勢相呼應。隨著AI從單純在對話視窗中生成回答,進一步發展到呼叫外部系統、深入企業工作流程,資安控管的標準也正轉向模型存取權限與系統權限管理。

OpenAI的資安防禦計畫也是同一脈絡下的作為。本社先前報導,OpenAI已公開將Daybreak應用範圍從漏洞偵測擴展至修補與驗證的方案。這次的聯合信函,可說是把個別企業的防禦策略,進一步擴大為政府與產業層級的存取權限設計課題。

不過,這份聯合信函並非法規或強制規定。政府將以何種方式導入已驗證存取計畫,企業又是否會將其落實為實際的權限控管與稽核體系,目前仍未有定論。OpenAI、微軟、Google發布的資安訊息中,同時也帶有宣傳自家產品與計畫的性質。

關鍵在於執行速度。已驗證存取機制能多快落地應用於實際防禦現場,企業能否將權限控管、日誌紀錄、修補與事故應變體系調整到跟上AI的速度,仍是未解的課題。這份聯合信函顯示,AI資安討論已從實驗室的風險評估,躍升為企業營運與政府政策的優先事項。