AI失控疑慮升溫 美國會論戰「緊急關閉鍵」與超智慧限制

人工智慧（AI）恐怕超出人類掌控、甚至危及文明的疑慮持續升溫，美國國會近來積極討論相關規範方案，包括在AI系統失控時強制關閉的「緊急關閉鍵」，以及針對高風險AI模型的檢驗機制。

根據華爾街日報（WSJ）報導，前Anthropic研究員雅各·考克森（Jacob Coxon）提出警訊後，美國多位議員相繼提出強化AI監督體系的方案。考克森9日（當地時間）在X平台發文指出，Anthropic與OpenAI把競爭看得比安全更重要，正加速開發人類難以掌控的系統。

本媒體先前已報導，考克森辭職後，美國國會便開始討論限制超智慧開發的法案。如今討論範圍已從限制超智慧開發，擴大到設立AI監督機構、建立模型檢驗制度等層面。

民主黨眾議員羅·卡納（Ro Khanna）主張，應比照核能與航空領域的作法，另設獨立聯邦機關專責監督AI，同時也支持導入「緊急關閉鍵」，一旦AI系統出現危險行為即可強制中止。

所謂「緊急關閉鍵」，是指讓人類得以中止出現危險行為之AI系統的裝置或權限。若真的成立專責監督機關，政府該如何介入高風險模型的開發、測試與部署流程，勢必成為爭論焦點。

民主黨參議員伯尼·桑德斯（Bernie Sanders）10日（當地時間）在寄給議員們的非公開簡報邀請函中表示：「面對這項快速發展、日益危險的技術帶來的影響，國會已經遠遠落後。」桑德斯與多位進步派人士也正推動限制開發超越人類最高智慧的「超智慧」相關方案。

民主黨內部也在評估，若期中選舉後拿下眾議院多數席次，是否成立專注AI議題的特別委員會。眾議員安娜·寶琳娜·盧娜（Anna Paulina Luna）提議召開因應AI風險的國會特別會期，參議員克里斯·范霍倫（Chris Van Hollen）則呼籲美中兩國儘速展開對話，建立AI安全防護與測試機制。

共和、民主兩黨也在推動跨黨派法案。共和黨參議員泰德·克魯茲（Ted Cruz）與民主黨參議員艾美·克羅布徹（Amy Klobuchar）表示，將爭取動能推動跨黨派立法，因應AI引發核武、生物威脅等災難性風險的情況。

克羅布徹表示：「很明顯，我們不能再等，現在就得採取行動。」該法案預計要求AI開發業者與政府專家共同檢驗、測試模型。

克魯茲則評論AI風險「令人恐懼」。

川普總統先前曾表態支持為AI安全設置「緊急關閉鍵」等相關措施，但也多次警告，過度監管恐削弱美國的技術競爭力。

也有人認為，這波監管聲浪帶有政治操作色彩。克魯茲與白宮AI顧問大衛·薩克斯（David Sacks）對考克森行動背後的動機提出質疑；Innovation Council Action負責人泰勒·布多維奇（Taylor Budowich）則主張：「要求把監管與責任交給世界各國政府，並不是為了安全著想。」

考克森表示，離職是他個人獨立做出的決定。Anthropic方面也表態，AI風險確實存在，公司在安全上的努力是真心誠意的。

AI產業內部對監管方式的看法同樣分歧。OpenAI表示歡迎監督與合理規範，但據了解，該公司也擔憂企業負擔因監管而過度加重。

OpenAI全球對外事務負責人克里斯·勒漢（Chris Lehane）10日（當地時間）在部落格中表示：「AI政策的窗口現在正開著，我們會好好把握。」他強調公司將與國會保持合作，這也意味著即便業者認同監督的必要性，對於具體監管形式仍可能出現分歧。

美國國會也已展開對AI系統實際行為的調查。共和黨參議員喬許·霍利（Josh Hawley）與民主黨參議員理查·布魯門索（Richard Blumenthal）要求OpenAI執行長山姆·奧特曼（Sam Altman）提供資訊，說明數百個AI代理程式協同入侵Hugging Face系統的事件始末。

不過，聯邦立法仍需要時間。議員之間對AI應受限制的程度看法不一，加上期中選舉將至，國會會期所剩不多。美國能否在短期內完成首部直接監督AI模型的聯邦法律，仍是未知數。

評論：從企業高層警告到跨黨派法案接力登場，AI風險已不再只是矽谷內部話題，而是逐漸成形的政治議題。只是監管節奏能否跟上技術發展速度，恐怕才是真正的考驗。