Anthropic向美國國會議員提出一份聯邦法案草案,建議限制高風險人工智慧(AI)模型的部署,並要求進行獨立評估。據報導,草案目前未公開,也尚未正式提出。
Politico於10月16日(當地時間)報導草案內容。草案將政府介入的條件限定在模型可能造成超過10億美元損害,或導致超過50人死亡或重傷等「可預見且迫在眉睫」的風險。這項門檻來自對未公開草案的報導,並非公開的法案原文。
草案列出的風險包括開發生物武器、開發者失去對自家模型的控制,以及網路攻擊。草案也建議由向商務部登記的獨立評估機構定期檢查先進模型,且不得依評估結果調整評估者報酬。新發現的風險則須在72小時內通報商務部。
草案也限制暫停部署的程序。據報導,只有商務部可以向聯邦法官請求下令暫停模型部署;其他政府機關不得要求停止模型開發、部署或內部使用。
這項提議與Anthropic於2026年6月公布的「Advanced AI Framework」方向相近。該文件建議前沿AI開發者進行風險評估、引入外部評估者,並持續公開評估結果、風險與事故。Anthropic表示,文件主要面向聯邦政府,但具體政策提案仍有討論空間。目前尚無法確認兩份文件涵蓋相同內容。
州級先例包括加州SB 53。加州州長加文·紐森(Gavin Newsom)於2025年9月29日簽署該法案,加州政府將其稱為首部涉及前沿AI安全的州法。公開報導未說明聯邦草案在多大程度上納入SB 53的條文。
若獨立評估成為法定要求,評估者登記與定期查核可能納入制度;但目前尚未提出實際評估需求與成本規模。這場關於AI安全評估與監督架構的討論,也延續本報先前對AI企業安全責任與監督架構的報導。目前報導的草案沒有直接涉及虛擬資產或區塊鏈產業。
留言 0