Anthropic執行長阿莫迪倡議放慢AI開發速度 籲美中談判限制高風險用途

Anthropic執行長達里歐·阿莫迪（Dario Amodei）提出兩項主張：放慢前沿人工智慧（AI）的開發速度，以及由美國與中國協商限制高風險AI用途的協議。

阿莫迪在9月12日發表的個人論文〈We Must Pace the Frontier〉中表示，「前沿AI的開發速度必須加以調節」。他強調，這並非要求全面停止開發，而是希望為安全性驗證爭取足夠時間。

阿莫迪指出，AI模型能力的進展速度，可能超越安全性與對齊研究的腳步。他也提出一個風險情境：AI代理群聚有可能在6到12個月內掌控整個網路。不過他也說明，這只是他所提出的假設情境，並非已經發生的事件。

阿莫迪的構想分為三個階段。第一階段，是讓獨立評估機構的人員可以隨時進入AI公司，檢視安全程序與事故紀錄；第二階段，是由民主國家的AI公司共同訂定「安全標準」與開發速度上限；第三階段，則是由美國等民主國家，與中國等威權國家協商範圍有限的安全協議。

在第一階段中，外部評估團隊不只檢視AI模型本身，還會查核訓練過程與營運程序，持續追蹤是否發生事故，以及是否遵守安全標準。

第二階段的構想，源自於「單靠企業自律難以控制AI開發競爭」的判斷。阿莫迪認為，一旦建立共同標準，就能比較各家企業的安全程序，以及高風險模型上市前的驗證流程。

與中國的競爭，是這項提案的核心變數。阿莫迪表示，先進半導體是左右中國AI能力的關鍵因素，因此美國應阻止高性能AI晶片與半導體製造設備出口中國，同時也要取締規避管制的採購行為，以及對海外資料中心的遠端存取。

阿莫迪在論文中表示，這些措施有助於美國維持AI領先地位，進而擴大未來的談判空間。他也將未來3到5年，視為AI地緣政治重要性持續攀升的時期。

至於國家之間可以合作的項目，阿莫迪列舉了禁止開發生物武器、高風險模型上市前測試，以及限制AI自我改進速度等三項。其中，限制自我改進速度的構想，他拿1970年代美蘇簽署的《戰略武器限制條約》（SALT）來做比喻。

不過，阿莫迪也評估，若要簽署一項全面限制或中止AI開發的協定，短期內難以實現，理由是各國之間的驗證困難，加上部分國家可能中途退出協議。

業界已出現部分呼應。OpenAI執行長山姆·奧特曼（Sam Altman）表示，將考慮讓外部評估者取得存取權限；伊隆·馬斯克（Elon Musk）則回應「Dario is right」（達里歐是對的）。

美聯社（AP）在報導這兩則發言時說明，企業對強化安全性表示認同，但並未真正同意要放慢整體AI開發速度。換句話說，目前業界的回應，僅限於開放外部評估與強化安全程序，並未擴及採納共同政策。

這項提案把AI安全討論，延伸到半導體出口管制與資料中心存取問題，是與過往討論最大的不同之處。在AI模型效能競爭與運算基礎設施布局同步進行的結構下，安全標準與供應鏈管控被同時端上桌。

本媒體此前已報導，阿莫迪曾提出以三階段安全構想取代全面中止AI開發的主張。這篇最新論文則在此基礎上，加入美中有限安全合作，以及先進半導體管制的構想，將討論範圍擴大到國際安全層次。

這項討論的範圍，也可能延伸到本地AI與半導體產業。不過，目前並未有資料顯示美國與中國已就相關協議達成共識，也未提出具體的執行時程。