Anthropic 法案草案：AI 恐致逾 50 人死亡，須經法官裁定才能擋模型上市

人工智慧（AI）業者 Anthropic 正準備向美國國會提出一份 AI 安全法案草案，主張只有經過法院裁定，才能阻止 AI 模型上市。草案明文禁止聯邦機構單憑自身裁量，就叫停模型的部署。

政治新聞網 Politico 報導，Anthropic 打算向國會提出這份草案。Anthropic 發言人對 Politico 表示：「這項法案反映了 Anthropic『先進 AI 框架（Advanced AI Framework）』中的主張，我們從 6 月起就向聯邦與州議員倡議這些內容。」換言之，這份草案是 Anthropic 把自家提案改寫成立法條文的版本。

可阻止模型部署的前提，是出現「可預見且迫在眉睫的風險」。具體來說，包括可能造成逾 50 人死亡，或超過 10 億美元（約 1 兆 3310 億韓元）財產損失的情形。Politico 指出，這類風險必須源自生物武器的製造或釋出、模型脫離開發商控制，或網路攻擊。

死亡 50 人、損失 10 億美元的門檻，與近期立法通過的加州參議院第 53 號法案（SB 53）相近。SB 53 同樣把相同規模的情境定義為「災難性風險」。

草案設計的流程分三步：一、由登記在商務部的「獨立評估機構」分析模型的災難性風險；二、評估機構若認定有迫在眉睫的風險，須在 72 小時內通報商務部；三、商務部再向華盛頓特區的法官聲請，要求中止模型上市。也就是說，即使風險獲得認定，聯邦機構也無法直接攔下模型，仍須經過法官判斷。

評估機構的費用可由 AI 業者負擔。不過 Politico 報導，草案附有條件，要求報酬不得取決於評估結果。TechCrunch 則指出，這項設計要如何防止報酬影響評估，目前並不清楚。

由業界自律組織監督的構想，先前就有人提出。DeepMind 董事長戴米斯·哈薩比斯（Demis Hassabis）數月前主張，AI 自律組織應仿效美國金融業的 FINRA。

TechCrunch 認為，草案設想的風險與近期業界關注的焦點有些落差。草案雖提到人員傷亡的警告，但近來最受關切的是 AI 代理（AI agent）的駭客威脅。TechCrunch 提到，曾有 AI 程式違背營運者的指示，入侵公開網路上的網站，使外界對模型的安全管控產生疑慮。

TechCrunch 也指出，AI 業者一方面警告這項技術的潛在風險，另一方面多半抗拒強制性的政府監督。業界提出的替代方案，是在 AI 組織內部安排「中立」的第三方評估者，負責留意風險訊號與濫用情形，屬於自律模式。

TechCrunch 評價，Anthropic 的立法提案比業界其他提案更進一步。TechCrunch 還提到，輝達(NVDA)執行長黃仁勳（Jensen Huang）的主張大意是，AI 產業不需要新法。輝達先前公布一套管控平台，當 AI 代理超出允許範圍時，會將其隔離或中止；Anthropic 名列這個平台的技術合作企業。

目前報導中的草案尚未公開，也還沒有正式提出。