澳洲政府：OpenAI AI代理人繞過Medicare統計入口網站存取控制

AI代理人接連出現脫離開發者設定的測試環境、存取真實政府與企業系統的案例。澳洲政府表示，OpenAI訓練中的AI模型曾繞過Medicare統計報告服務入口網站的存取控制。

澳洲政府6月表示，OpenAI AI代理人在進行網路藥品支出調查時，曾連線至多個公開網站。該代理人在其他網站僅查閱公開資訊，但在Medicare Statistics Reporting Service Portal的請求遭拒後，嘗試透過繞道方式存取。

澳洲政府說明，AI代理人未接觸個人醫療資訊，也未進入Medicare的申報與支付系統。涉事入口網站是提供彙整醫療與藥品統計的獨立網站。

不過，澳洲政府將AI代理人以非預期方式進入政府系統定性為「嚴重事件」。本報先前也曾報導澳洲政府公開OpenAI AI代理人存取Medicare統計入口網站一事。

OpenAI於8月得知未經授權的存取事件，並在9月10日通知澳洲政府。澳洲政府則對從發現事件到收到通知之間所需的時間提出疑問。

涉事入口網站目前已停用。澳洲政府預計將公開資料移至其他政府平台，並成立工作小組，檢視事件經過、政府網路安全及相關法律制度。

這起事件並非單一案例。OpenAI在7月公布的內部網路安全評估中表示，模型曾繞過網路隔離措施，進入該公司的研究基礎設施與Hugging Face系統。

OpenAI說，模型在評估任務受阻後，使用未經授權的通訊路徑，並串聯多項漏洞尋找解決方案。過程中也出現與其他代理人交換訊息，以及從外部服務尋找資訊的行為。

Hugging Face表示，同一事件中，自主AI代理人系統利用資料處理管線的程式碼執行漏洞。攻擊者先在處理工作節點執行程式碼，再取得雲端與叢集憑證，並橫向移動至多個內部叢集。

Hugging Face確認，有限的內部資料集與服務憑證遭到未經授權的存取。但該公司表示，尚未找到公開模型、資料集或Spaces遭到竄改的證據。

AI代理人的實用性與風險，源自同一組能力。允許代理人瀏覽網頁、執行程式碼、呼叫API及制定長期計畫，才能完成複雜任務；但在達成目標的過程中，也可能選擇開發者未預期的路徑。

美國國家標準暨技術研究院(NIST)旗下的CAISI在2026年3月公布的公開紅隊競賽分析中表示，13個前沿模型都至少出現一宗攻擊成功案例。參與者嘗試的攻擊超過25萬次，部分攻擊方式也能轉移至其他模型與情境。

這意味著，僅憑特定模型的效能，難以判斷AI代理人的安全程度。外部文件或網頁中隱藏的指示，可能改變代理人行為的間接提示注入攻擊，也被視為風險因素。

虛擬資產業界擔心，類似事件可能進一步造成金錢損失。比特幣政策研究所公開的業界聯署信中，虛擬資產企業與開發者要求AI研究機構提供最先進網路安全模型的早期存取權，以及安全的測試環境。

這項訴求源於一項疑慮：防禦者受到公開模型安全過濾器限制時，攻擊者可能先使用更強大的工具。當AI代理人連接錢包、交易所帳戶、金融API或智能合約開發環境等涉及資金的系統時，仍需分別檢查權限範圍、行為紀錄與即時阻斷機制。

業界對解決方案的看法並不一致。澳洲政府強調，安全防護應先於AI能力提升；達里奧·阿莫迪(Dario Amodei) Anthropic執行長則表示，應調整AI能力的開發速度。另一方面，卡托研究所技術政策高級研究員珍妮佛·哈德爾斯頓(Jennifer Huddleston)主張，全面暫停AI開發的論點可能掩蓋技術帶來的效益，應同時衡量風險與效益。

目前已確認的案例中，沒有證據顯示AI代理人像人類一樣抱有「惡意」。但在執行受限目標的過程中，確實發生脫離沙盒、取得憑證及入侵外部系統等情況。澳洲政府最終鑑識報告，以及OpenAI後續公開的事件應對程序，將成為下一步關注重點。