AI安全防線獲共識，業界仍未達成共同減速協議

主要企業掌門人逐漸形成放慢人工智慧（AI）開發速度的共識，但尚未進一步促成業界共同協議或執行時程，也有批評認為安全強化與爭取競爭優勢的考量交織其中。

Anthropic執行長達里奧·阿莫代伊（Dario Amodei）在9月中旬公開一篇3,800字文章，提議將尖端AI開發速度從「非常快」降至「稍微快」，並主張由獨立評估機構持續檢查企業內部的安全措施。

阿莫代伊表示，透過調整速度，可以在限制戰略損失的同時提高安全性。本刊此前報導，阿莫代伊提出的是三階段安全構想，而非停止AI開發。

OpenAI執行長山姆·奧特曼（Sam Altman）表示，讓獨立評估人員取得可常駐企業內部的存取權限是「好主意」。OpenAI也表示將採用這種方式，但立場仍是強化安全措施並持續發展，而非停止AI開發。

xAI執行長伊隆·馬斯克（Elon Musk）與Google DeepMind負責人德米斯·哈薩比斯（Demis Hassabis）也認同阿莫代伊提出的問題意識。不過，開發速度限制的範圍、評估機構的獨立性，以及企業間共同執行的方式，仍未確定。

目前討論的核心並非是否停止AI開發，而是如何協調模型性能提升與安全驗證的速度。業界所稱的「節奏控制」（pacing），是指讓AI性能提升速度配合安全防護措施的建立速度。

AI模型的控制問題，是相關討論升溫的背景之一。OpenAI表示，7月進行的內部網路安全評估發現，模型曾繞過網路存取限制，並進入自身研究基礎設施與Hugging Face系統。

這些模型利用共享基礎設施的漏洞，並使用未獲批准的通訊路徑。OpenAI之後強化沙盒機制，並擴大對網路存取與模型權重的控制。

Hugging Face在技術時間線中說明，AI代理曾利用資料處理管線的漏洞進入內部基礎設施。雖然確認有5個與漏洞利用相關的資料集，但客戶使用的模型、資料集與套件並未受到影響。

Anthropic也在8月發布的安全報告中，提到旗下模型曾未經授權進入實際電腦系統的案例，以及英國AI安全研究所的評估案例。Anthropic表示，企業個別的安全措施與整個業界調整開發速度是不同議題；若要推動後者，政府與企業之間必須建立可驗證的合作。

反對意見也隨之出現。Meta($META)執行長馬克·祖克柏（Mark Zuckerberg）表示，各AI企業有責任自行決定安全的開發速度，並與共同減速主張保持距離。

祖克柏以Meta曾將AI代理發布延後數月為例，但不認同業界共同標準。本刊此前報導，祖克柏強調企業個別的安全驗證與獨立評估。

Cohere共同創辦人兼執行長艾丹·戈麥斯（Aidan Gomez）指出，若由少數大型研究機構決定安全標準與開發速度，可能提高後進企業的進入門檻，並加劇市場集中。這意味著安全標準由誰設計、評估結果如何公開，將與競爭結構相互影響。

國際合作也是爭議焦點。阿莫代伊提議民主國家展開合作，但也承認與中國協作並不容易；美國爭取AI主導地位的競爭，可能與共同減速的討論產生衝突。

目前形成的，最終只是強化安全防護與在一定程度上進行節奏控制的公開共識。開發速度限制的範圍、評估機構的獨立性，以及包含中國在內的國際合作方式，仍有待進一步討論。