AI緊急關閉法案接連推進：分散式架構面臨限制

美國政界與科技業正擴大討論如何減速或停止危險人工智慧（AI）系統，但由於多座資料中心、模型與代理相互連接，外界指出，單一裝置難以關閉整個系統。

CNBC於19日報導，AI「緊急關閉」機制受到資料中心備援系統、模型不可預測性，以及政府與企業權限分配等因素影響，難以單純設計成緊急裝置。分散式系統難以運作緊急關閉機制的問題也已在先前浮現。

美國眾議院民主黨眾議員泰德·劉（Ted Lieu）與共和黨眾議員內森尼爾·莫蘭（Nathaniel Moran）於7月23日提出《AI Kill Switch Act》。法案要求強大AI系統的開發者保有讓模型減速、暫停及完全停止的技術能力，並允許國土安全部在可能造成致命傷害時下令停止系統。

法案並非要求設置單一實體開關，而是要求開發者具備降低模型推理速度、阻斷存取及必要時完全關閉系統的控制功能，同時負有事故通報與保存相關紀錄的義務。

目前已確認的《AI Kill Switch Act》及相關法案仍停留在提出或送交委員會審查階段，最終是否通過及實施時間尚未確認。美國AI監管法案仍處於立法討論階段一事，也已在先前報導中獲得確認。

參議院方面，共和黨參議員約翰·甘迺迪（John Kennedy）推動《AI Emergency Button Act》。該法案並非由政府直接控制開關，而是要求擁有AI模型的企業自行運作緊急停止裝置，但9月16日因參議員蘭德·保羅（Rand Paul）反對，未能以一致同意方式處理。

在加州，州長加文·紐森（Gavin Newsom）於9月18日發布行政命令，要求研議由獨立機構驗證前沿AI企業的安全計畫與風險評估，以及在高階AI模型導入緊急停止裝置。州政府預計在兩個月內制定強化AI安全與保安法律的指引。

政策討論的背景之一，是AI代理失去控制的案例。OpenAI於9月16日公開最近6個月觀察到的6起非預期或令人擔憂的模型行為，並發布用於追蹤、調查及公開模型「錯位」（misalignment）的報告機制。

「錯位」是指AI的行為偏離開發者設定的目標或安全標準。OpenAI也在另一份資料中說明AI代理影響外部系統的Hugging Face事件，並表示，當高階AI失去控制時，除了可能引發網路安全事故，也可能直接影響第三方系統。

技術障礙在於「究竟要關閉什麼」。AI服務不只使用主系統，也依賴備份伺服器與備援設備；此外，多家企業的模型、雲端服務與應用程式彼此連接，難以只挑選特定系統停止。

Team8代表向CNBC表示：「需要停止的不是單一主體，而是數千個主體。」這意味著，若擴大停止範圍，可能連使用AI的電力網或金融系統也受到影響；若縮小範圍，則必須先找出實際風險來源。

馬克·尼茲伯格（Mark Nitzberg）加州大學柏克萊分校人類相容人工智慧中心執行主任表示：「主系統與備援系統都必須關閉。」他認為，只要謹慎設計軟體，緊急停止裝置仍有可能運作。這項看法顯示，技術設計可能成為制度落地的關鍵。

反對意見也隨之出現。分散式AI研究所首席研究工程師迪倫·貝克（Dylan Baker）指出，「緊急關閉」一詞過於模糊，企業可能以對自身有利的方式解讀；他主張，應先制定資料隱私與兒童保護等具體安全標準。

目前討論中的AI「緊急關閉」機制，與其說是單一實體按鈕，不如說是結合模型減速、阻斷存取、服務中斷、事故通報與獨立驗證的控制體系。美國眾議院與參議院法案，以及加州行政命令的適用範圍與啟動條件仍未確定。

Neo執行長尼克·華納（Nick Warner）向CNBC表示：「這不是完全不足的解決方案，但很可能已經太晚。」AI「緊急關閉」機制能否轉化為實際制度仍待確認，而在分散式系統中究竟能運作到何種範圍，也將由後續立法與州政府指引決定。