AI失控風險引論戰 參議員桑德斯將於9月16日召開閉門簡報

美國參議院將於9月16日召開一場聚焦人工智慧（AI）國家安全風險與立法因應的閉門簡報會。參議員伯尼·桑德斯（Bernie Sanders）正推動邀集AI安全專家與國會議員與會，使美國政壇對AI監督的討論再度受到關注。

這場簡報會預計將討論AI失控風險、政府監督與立法因應方案等議題。《大西洋》報導指出，這場討論凸顯了政界在AI開發速度與安全防護措施上的分歧。

至於查克·舒默（Chuck Schumer）參議員是否要求川普政府在2026年召開新一輪AI機密簡報會的說法，目前並未在公開資料中獲得證實。舒默與AI閉門簡報之間的關聯，可追溯至2023年的紀錄。

當時，舒默主導了美國參議院史上首場面向全體議員的AI機密簡報會，據悉約有70名參議員出席。美國參議院民主黨黨團表示，該場簡報會是為討論國家安全與AI監管議題而召開。

這場討論的背景，來自業界對Anthropic與OpenAI競相開發AI的內部批評聲浪。曾任職於Anthropic的研究員雅各·柯克森（Jacob Coxon）表示，兩家公司正埋頭投入具自我改進能力的超級智慧開發競賽，「我們正拿自己的生命做賭注」，這句話點出了他對業界競速心態的憂慮。

柯克森同時也表示，目前使用中的AI並非對人類構成迫在眉睫的威脅。CBS新聞報導，柯克森呼籲政府層級的安全監管與第三方稽核。

AI安全研究員伊凡·胡賓格（Evan Hubinger）表示，他認為AI在未來十年內導致人類滅絕的機率超過10%。評論：這項數字僅是胡賓格個人的推估，並非政府或科學界達成共識的官方機率。

所謂AI失控風險，指的是AI系統可能出現不符人類意圖的行為，甚至脫離人類掌控的可能性。專家之間對於AI脫離掌控的時間點與機率，目前仍未達成共識。

川普總統對放緩AI開發速度持否定態度，理由是美國不能將AI主導權拱手讓給中國。

川普表示「贏得AI競賽的一方就是贏家」，但同時也承認需要一定程度的安全防護措施，只是並未提出具體監管方案。

美聯社報導指出，專家對於AI失控風險發生的時間點與機率並無共識，這也顯示個人風險推估與政府政策判斷應被區分看待。

美國政壇的爭論焦點，在於應將AI視為國家安全議題，還是優先考量與中國的技術競爭。一方要求正視失控風險並放緩開發速度，另一方則認為監管可能削弱美國的技術優勢。

美聯社另一篇報導提到，川普總統展現出須在AI領域維持對中國優勢的立場，雖認同安全防護措施有其必要，但監管的範圍與方式尚未提出。

目前並無證據顯示，這場討論與加密貨幣市場的價格、交易指標之間存在直接關聯。隨著AI安全討論持續延燒為國家安全與立法議題，外界關注9月16日這場閉門簡報會將提出哪些風險評估與因應方案。

簡報會結束後，美國參議院或將針對AI安全監管與政府監督展開後續討論。不過就目前公開資料來看，尚未提出具體法案內容或表決時程。