AI安全由企業負責：祖克柏反對業界共同放慢開發

Meta($META)執行長馬克·祖克柏(Mark Zuckerberg)表示，人工智慧(AI)業界不必共同放慢開發速度，各AI企業應自行決定確保安全所需的進度，必要時也應自行延後開發。

祖克柏16日在社群媒體發文表示，各研究機構都有責任與動機，以訓練安全模型所需的速度推進，也有能力採取相應措施。美聯社(AP)報導了相關發言。

他說，Meta為強化安全與資安，已將AI代理人「Muse」的發布延後數個月，並強調：「我們不是先要求其他公司這麼做，再等著跟進。」

祖克柏認為，安全措施應是各企業在開發過程中的判斷，而非業界共同協議的結果。這代表企業可自行評估產品風險，並調整發布時間。

他表示，AI代理人的可靠性與對齊能力可能成為競爭力核心。若AI代理人不遵循使用者指示，或做出不利於使用者的行為，使用者可能因此放棄使用。

祖克柏也指出，若AI系統造成損害，企業可能承擔法律責任，這同樣能促使企業投入安全措施。他的論點是，使用者選擇與法律責任都能推動企業採取個別安全行動。

祖克柏並非反對外部評估。他支持運用獨立評估人員與顧問團隊，並表示Meta的超級智能研究組織Meta Superintelligence Labs正針對多個領域進行外部評估。

他主張需要規模更大、背景更多元的外部評估生態系，但沒有承諾讓外部評估人員取得與內部員工相同程度的長期存取權限。

祖克柏的立場不同於Anthropic執行長達里奧·阿莫迪(Dario Amodei)的提議。阿莫迪主張，應將最前沿AI模型的能力提升速度放慢至安全研究能夠跟上的程度，並讓外部評估人員長期進入企業內部。

本報先前曾報導祖克柏與阿莫迪對AI開發速度及安全問題的看法差異。祖克柏強調企業個別安全措施與競爭，阿莫迪則重視業界共同調整速度及外部驗證。

兩人的差異不在於是否需要安全措施，而在於執行方式。阿莫迪強調共同放慢速度與持續外部驗證，祖克柏則認為各企業可獨立延後發布並接受外部評估。

祖克柏也表示，相較於把大部分運算資源投入讓AI自行改進下一代模型的遞迴式自我改進，將資源用於執行人類目標，可能有助於提升安全性。AI安全討論因此從是否停止開發，延伸至資源分配與驗證方式。

他同時主張，應將先進AI模型廣泛提供給個人，而不是集中在少數機構或AI系統手中。他表示，維持有利於人類的權力平衡，對超級智能安全發展十分重要。

伊隆·馬斯克(Elon Musk)在祖克柏的貼文下回覆「Cool」，但沒有說明自己同意祖克柏的哪項主張。

馬斯克過去也曾在另一場活動中主張，OpenAI、Anthropic、xAI、Google與Meta等主要AI企業應在發布前相互測試模型。企業個別採取自主措施，能否與業界層級的相互驗證並行，將成為後續爭論焦點。