美中討論AI事故通報機制　軍事誤判與資安研究案例受關注

美國與中國討論互相通報可能影響國家安全的人工智慧（AI）事故，但目前尚未公開雙方已同意設立或共同運作正式熱線。

美國財政部長史考特·貝森特（Scott Bessent）在9月20日於紐約與中國國務院副總理何立峰會面後表示，美方提出了「notification mechanism」。貝森特說：「降低全球第一與第二大AI強國之間的不透明程度、提高透明度非常重要。」

貝森特也表示，兩國希望建立「對共同目標與共同威脅的共同願景」。這場討論是在美國總統川普與中國國家主席習近平9月24日舉行峰會前進行。

中國外交部在9月22日回應相關問題時，要求參考中方公布的中美經濟與貿易磋商結果，具體措施則應向主管機關詢問。中方尚未說明通報機制的運作主體或聯絡方式。

這項進展是美國向中國提議建立AI事故通報機制之後的後續發展。目前公開內容仍是針對國家安全相關AI事故，檢討對話與通報方式，並非設立國際組織或共同應變中心。

若要讓AI事故通報機制實際運作，雙方仍須決定哪些事故屬於國家安全事件、何時通知誰，以及如何驗證資訊準確性。本次討論尚未提出啟動標準、法律約束力或制裁方式。

討論背景之一，是AI可能生成錯誤軍事情報並引發武裝衝突的疑慮。CNN今年初報導，美國特種作戰司令部一名分析師曾利用AI製作情報報告，判斷一艘中國船隻正將與伊朗核武計畫有關的零件運往伊朗。

相關情報並不屬實，但美軍曾制定攔截船隻的計畫，並準備讓武裝人員登船及派遣軍機。CNN報導指出，AI結合公開資訊與美國政府的機密訊號情報後得出錯誤結論，分析師再將內容改寫成軍事情報報告並流通。

實際船貨以及所使用AI工具的種類與是否為商用產品，均未公開。美國國防部與美國特種作戰司令部也未對該報導置評。

OpenAI在9月21日提出AI安全標準建議，主張政府與關鍵基礎設施營運商應建立安全通訊管道，以分享國家安全疑慮、新型漏洞與威脅。OpenAI也肯定美中AI對話，並建議建立共同衡量方式，以及事故分類與通報程序。

AI可能被用於發動網路攻擊，也是此次討論的背景之一。資安公司Hacktron AI在7月25日表示，研究人員串聯兩個漏洞，取得OpenAI員工的ChatGPT帳戶存取權，並在內部儲存庫建立無害的拉取請求。

Hacktron AI表示，研究人員先利用Discourse論壇的圖片上傳漏洞與OpenAI的SSO設定錯誤，再取得ChatGPT、Codex帳戶及GitHub整合的存取權。研究團隊使用Anthropic的Claude Opus 5，從發現初始漏洞到存取OpenAI內部儲存庫，歷時不到72小時。

OpenAI向研究人員支付6500美元（約895萬韓元）的漏洞獎勵。不過，這起事件是研究團隊自行公開的有限資安調查，目前尚未確認實際惡意攻擊者是否使用過相同路徑。

喬治·陳（George Chen）亞洲集團數位政策專家（合夥人）表示，AI風險通報機制可能成為其他國家仿效的先例。這項評估指向對話管道的象徵性意義，不代表實際運作體系已經建立。

AI事故通訊管道或可用於防止錯誤軍事情報升高為衝突，但也有觀點指出，若AI攻擊企業系統或擴散至多台伺服器，單靠通報難以應對。

目前尚未提出這場討論與加密貨幣的直接連結，也沒有公開特定區塊鏈、交易所或穩定幣遭受攻擊或損失的資訊，或與AI通報討論相關的半導體出口管制協議及數據。美中兩國將在9月24日舉行峰會。