AI「關閉開關」法案已提案：安德魯·楊籲高風險模型受管制

安德魯·楊主張，應對高效能人工智慧（AI）模型施加法律責任與發布前等待期，並設置可在危險情況下停止運作的「關閉開關」。

安德魯·楊（Andrew Yang）Noble Mobile創辦人在17日公開的Decrypt專訪中表示：「恐懼是真實的，疑慮是真實的，需要採取的措施也是真實的。」他呼籲美國國會加強監管，並指出，AI企業不能僅因須與中國競爭就被排除在監管之外。

楊在CNN專訪中也表示，僅靠AI企業自律並不足夠。他說，若要因應針對電網、金融系統與國家安全的潛在濫用風險，就需要外部監管。

他提出「關閉開關」等安全措施，並表示：「即使與中國競爭，美國仍能保護美國人的生命與利益。」關閉開關是指在危險情況下限制、暫停或終止AI系統的技術控制手段。

核心並非取得一鍵停止所有AI的權力，而是確保人類對高風險模型保有最低限度的介入能力。不過，對於在分散式伺服器與自主型代理上運作的AI，能否同時停止所有系統，仍是另一項爭議。

美國國會目前也已提出相關法案。眾議員泰德·劉（Ted Lieu）與內森·莫蘭（Nathaniel Moran）於7月23日提出《AI關閉開關法案》（AI Kill Switch Act）。

法案H.R.9917要求符合特定條件的高效能AI開發商，維持限制、暫停或終止模型運作的技術能力。法案也納入相關條款，允許美國國土安全部部長針對可能造成災難性損害的AI系統下令採取緊急措施。

H.R.9917目前仍處於提交提案階段，已轉交眾議院國土安全委員會審查，尚未確定成為法律，也沒有排定實施時間表。

楊另表示，他曾從一名匿名AI研究機構負責人處聽到相關說法，指自主型AI機器人曾在網路上留下自我複製程式碼。他也提出，部分AI企業可能需要建立「合成網際網路」來訓練模型。

不過，該研究機構與負責人姓名均未公開，關於自我複製程式碼已擴散至整個網路的說法，也尚未獲得獨立確認。

外界也對關閉開關提出反對意見。有觀點指出，若AI模型分散在多部伺服器與自主型代理上運作，就很難同時停止所有系統；政府啟動緊急措施的標準也必須先行界定。

CNN專訪還提到，英國政府曾拒絕類似構想，也有意見認為，僅封鎖AI模型存取權，難以充分阻止風險。另一方面，儘管存在技術限制，仍有反方主張，至少應保留人類嘗試停止系統的最低限度控制裝置。

這場討論延續了本報先前報導安德魯·楊要求AI企業設置關閉開關與責任規範的脈絡。與先前報導相同，相關法案能否通過及實際適用範圍，仍取決於國會程序。

至於關閉開關能否在分散式AI系統中發揮作用，本報相關分析也曾討論其技術限制。H.R.9917的下一步將是接受眾議院國土安全委員會審查。