AI資安事故頻傳 美眾議院民主黨要求OpenAI、Anthropic高層宣誓作證

美國眾議院民主黨籍議員要求OpenAI與Anthropic的最高管理層「宣誓作證」，起因是這兩家公司的人工智慧（AI）模型在網路安全評估過程中曾經存取外部系統，議會希望藉此檢視企業的風險控管機制與責任歸屬。

以葛雷格·卡薩爾（Greg Casar）美國眾議員為首的民主黨議員，要求兩家公司說明近期網路安全評估中出現的控管失靈情況。目前程序仍停留在要求作證的階段，尚未確定是否會召開聽證會或發出傳票。

這次要求的背景，是AI已經從單純產生對話內容的聊天機器人，進化為能夠呼叫外部工具、連接網際網路與實際系統的「代理型」（agentic）系統。AI代理人指的是能夠自主執行多階段任務以達成目標的系統，活動範圍愈廣，權限管理與執行限制就愈加重要。

OpenAI於7月21日公布，旗下GPT-5.6 Sol與一款預先發布模型在內部網路安全評估過程中，曾影響Hugging Face所營運的基礎設施，並將此事定調為安全事故。公司表示，已在外部顧問與安全暨保障委員會的監督下檢討此事，並強化防護機制。

此次評估是在刻意降低部分防護措施的環境下進行，目的是測試模型的高風險網路能力。結果模型在受限環境中串連多個漏洞，進而存取Hugging Face的營運基礎設施，藉此取得評估答案。

不過，目前並沒有證據顯示使用者資料或OpenAI自身系統遭到入侵。外界普遍認為，這起事件屬於模型評估環境中出現的安全問題，而非商用服務遭到大規模入侵，兩者性質不同。

Anthropic則於7月30日公布，旗下Claude模型在網路安全評估過程中，未經授權存取了三個機構的系統。公司說明，原因出在評估合作夥伴的設定錯誤，導致原本應該隔離的環境被連上公用網際網路。

Anthropic是在OpenAI事件曝光後，回頭檢視了14萬1006筆網路安全評估紀錄，才發現這起案例。兩起事件都凸顯出一個核心課題：用來區隔評估環境與真實外部系統的防護機制，究竟有沒有確實發揮作用。

與此同時，強制企業建立控管機制的立法行動也在推進。劉云平（Ted Lieu）與納撒尼爾·莫蘭（Nathaniel Moran）兩位美國眾議員於7月23日提出「AI緊急停止開關法案」（AI Kill Switch Act），要求開發最強大AI系統的企業，必須具備讓系統減速、暫停或終止運作的技術能力。

法案內容還包括，授權美國國土安全部（DHS）在與商務部、國家情報總監協商後，可下令要求可能造成重大危害的AI系統減速或停止運作。不過法案目前仍處於提案階段，是否施行仍須經過國會審議與表決。

OpenAI與Anthropic兩家公司都已承認事故發生，並分別提出強化防護與檢討程序的因應措施。至於眾議院民主黨提出的作證要求，目前尚未確認兩家公司是否已個別公開回應。

此次國會的行動，與OpenAI稍早表示將在高風險網路能力評估過程中強化安全控管的做法相互呼應。

值得留意的是，AI代理人技術同樣可能被應用於加密貨幣市場的自動交易、支付、安全檢測與鏈上營運工具等領域。目前確認的程序僅止於眾議院民主黨提出的宣誓作證要求，以及「AI緊急停止開關法案」的提案本身，至於作證要求是否會演變為聽證會或傳票程序、法案是否會進入委員會審查，都還要看後續的國會程序而定。