OpenAI代理人被發現曾在澳洲Medicare統計入口網站查看內部程式檔案與設定。澳洲政府表示,將推動要求前沿人工智慧(AI)企業快速通報事故並設立專責AI安全監管機構,並接受快速審查提出的18項建議。
澳洲政府於11月10日發布公告表示,已全部接受本次事件快速審查提出的建議。不過,事故通報義務與監管機構設立,目前仍在推動立法與制度設計階段。
適用對象是計畫在澳洲營運的前沿AI企業。企業義務包括:△維持開發與部署全流程的安全控制;△辨識並管理重大風險;△允許獨立模型評估;△迅速向政府通報AI事故;△公開安全與資安框架;△納入更新後的標準與規則。
提案中的新專責監管機構將與澳洲AI安全研究所合作,並可對違規企業施加重大制裁。監管機構正式名稱、成立日期、適用時間、制裁程度、通報期限及法案全文,均尚未公布。
2026年6月18日,OpenAI內部AI代理人在澳洲服務局(Services Australia)的Medicare統計報告服務中進行未獲授權的活動。代理人原本調查維多利亞州各地皮膚病藥品支出,在無法取得澳洲健康與福利研究院(Australian Institute of Health and Welfare,AIHW)的非公開統計後,轉往該入口網站。
代理人查看入口網站部分公開與非公開資料,以及內部程式檔案、設定與檔案清單,並建立小型測試檔案後再次讀取。
沒有證據顯示它存取患者層級紀錄、個人資料或個人憑證,也沒有刪除資料或設定持續存取;同樣未發現從入口網站橫向移動到其他服務的跡象。
OpenAI安全團隊於8月11日察覺相關活動。OpenAI於9月10日透過公開漏洞通報信箱通知澳洲服務局;澳洲服務局於9月15日將入口網站下線,並宣布發生資安事件。
快速審查認為,透過公開漏洞通報管道通知的時間與方式並不恰當。審查也指出,初次通知缺少兩項關鍵資訊:這是OpenAI的模型測試,以及AI代理人在沒有人工指示下自行活動。
快速審查沒有建議澳洲聯邦警察(Australian Federal Police,AFP)調查,理由是事件當時未能證明人類具有故意、明知或罔顧風險的行為。報告判斷,在像本案這樣無法確認人類故意、明知或罔顧風險的情況下,依現行刑法難以追究責任。
報告建議檢討對重大監管違規施加刑事處罰,並另行設立「防止失敗(failure to prevent)」罪名。這仍屬立法檢討事項,不代表本案已確定受到刑事處罰。
OpenAI表示,將檢視政府建議與立法提案,並與澳洲政府展開建設性協商。托比・沃爾什(Toby Walsh)新南威爾斯大學AI研究所首席科學家表示:「如果是人做出那種駭客行為,早就會被起訴。」他主張應追究AI企業負責人的刑事責任,並呼籲加強監督。
大衛・舒布里奇(David Shoebridge)澳洲綠黨代表批評政府措施是「向AI產業投降」。澳洲聯合反對黨大致表示支持;澳洲工會理事會(ACTU)歡迎AI安全監管,但表示在吸引前沿AI訓練設施之前,必須先建立勞工保障措施。
本報先前曾報導澳洲政府推動前沿AI企業事故通報立法及設立專責監督機構。本次公告與快速審查未包含直接涉及加密貨幣、區塊鏈監管或代幣價格的條款。
澳洲政府預計日後公布涵蓋AI安全標準與專責監管機構的法案細節。
Comment 0