羅·坎納預告提案：擬禁止遞迴式AI自我改進

美國眾議院民主黨籍議員羅·坎納（Ro Khanna）預告將提出法案，在聯邦安全防護措施建立前，禁止人工智慧（AI）進行遞迴式自我改進。

CNBC於台灣時間29日上午5時43分報導，坎納預告提出《Human Control Over AI Act》法案。

CNBC報導，坎納預告的法案將把AI後續模型開發，以及自主修改核心目標、隔離與關閉控制措施列為管制對象。提案內容包括，在聯邦安全標準與主管機關批准機制建立前，禁止開發和部署具備相關功能的模型。

截至9月29日台灣時間，法案原文與美國國會官方登錄資料尚未確認。法案編號、共同提案人、主管委員會及實際提出時間也尚未公開。

CNBC指出，坎納預告的提案包括成立專責聯邦機構，監督先進AI開發商。該機構將負責AI模型訓練與部署許可、前沿模型稽核、持續安全測試，以及制定人類控制標準。

目前被提及的對象包括OpenAI、Anthropic、Google DeepMind與xAI。提案也包括在各家前沿AI研究機構配置獨立稽核人員，並要求稽核結果直接向聯邦機構報告。

提案要求制定沙盒環境、與網際網路隔離的氣隙（air gap）、緊急關閉裝置「終止開關」（kill switch）及阻斷外部系統存取的相關標準。若AI模型部署導致民間群體遭到摧毀，提案也規劃將其列為「危害人類罪」處罰。

提案同時規劃，對故意解除安全防護、日誌或隔離系統，或部署未獲批准系統的企業員工追究刑事責任，並要求AI企業在模型發布前投保責任保險。

提案也涵蓋國際合作與半導體管制。內容要求行政部門推動具約束力的國際協議與定向出口管制，以遏制中國等競爭國家的危險AI開發，並監控與管制用於先進AI訓練的半導體使用情況。

遞迴式自我改進是指AI在減少人類直接介入的情況下，執行程式碼撰寫、實驗及後續模型開發。Anthropic在官方資料中表示，AI尚未達到完整的遞迴式自我改進，但AI設計與開發後續模型的階段，可能比預期更快到來。

Anthropic表示，AI在程式碼撰寫與實驗執行中的作用日益增加，但設定目標與選擇問題的工作仍由人類負責。這意味著，即使AI研究自動化持續擴大，仍不同於完全自主的自我改進。

坎納預告的提案，相較於國會討論中的其他AI安全法案，更重視事前管制。美國民主黨眾議員洛里·特拉漢（Lori Trahan）與共和黨眾議員傑伊·奧伯諾爾特（Jay Obernolte）提出的跨黨派《FRONTIER Act》，要求模型卡、風險管理架構、獨立稽核與事故通報，但並未禁止遞迴式自我改進本身。

《FRONTIER Act》共同提案人主張，獨立評估與透明度規則能同時實現AI安全與創新。另一方面，美國非營利組織Americans for Responsible Innovation認為，政府暫停部署的權限與初期部署判斷架構仍需進一步修正。

OpenAI曾提出涵蓋遞迴式自我改進測量、AI事故通報與人類監督的國際AI安全標準。這項做法主張，除企業個別監管外，也應統一各國的評估與通報標準，與坎納預告提案中的事前管制構想有所呼應。

提案未涉及台灣加密貨幣市場或特定代幣價格的直接規範。半導體與AI基礎設施管制條款可能間接連結AI運算需求，但內容沒有針對加密貨幣或區塊鏈的額外條款。

CNBC報導，眾議院表決可能延至期中選舉後，但目前尚無確定的處理時程。實際提出法案並公開原文後，遞迴式自我改進的法律定義與適用範圍仍有待確認。