AI開發速度之爭：祖克柏、黃仁勳主張並行，阿莫迪倡議放慢

Meta(META)執行長馬克·祖克柏(Mark Zuckerberg)與NVIDIA(NVDA)創辦人兼執行長黃仁勳(Jensen Huang)，均反對放慢整個人工智慧(AI)產業開發速度的主張。Anthropic執行長達里奧·阿莫迪(Dario Amodei)則表示，應為安全性研究爭取追上的時間，提議業界共同調整開發速度。

祖克柏於9月15日在社群媒體發文表示：「所有研究機構都有責任與誘因，以安全訓練模型所需的速度推進，也有能力為此採取自身措施。」他主張，各企業可以自行判斷安全標準與開發速度。

祖克柏認為，使用者不會選擇不符合自身需求或無法完成要求的AI代理。按照他的論點，安全性與對齊程度更高的產品可能獲得使用者選擇，企業因此也有加強安全措施的經濟誘因。

他也將法律責任可能性列為企業採取安全措施的動力。AI產品若造成使用者損害，企業可能承擔責任，因此即使業界沒有達成整體共識，各企業仍能自行管理安全性。

祖克柏表示，Meta為進行安全與資安審查，將個人AI代理Muse的推出延後數月。Meta於9月8日公開Muse時說明，該代理會在專用虛擬機器中執行，並由獨立的Sentinel代理核准其網路存取權限。

Muse在執行寄送電子郵件或購買等敏感操作前，會先取得使用者同意。使用者可以決定要連結的應用程式與權限範圍，也能透過稽核紀錄查看代理已完成或預計執行的操作。

Meta預計在今年底導入「機密虛擬機器(Confidential VM)」，屆時只有使用者持有加密金鑰。這被視為祖克柏所說企業自行進行安全驗證，並反映在產品設計中的案例。

祖克柏沒有主張整個業界一律放慢，而是將採用獨立評估者與顧問團隊列為最佳實務。Meta的AI組織已在部分領域使用獨立評估者，其他企業也可採取相同方式。這延續了祖克柏先前強調獨立評估的談話，並將論點擴大至企業自主規範。

黃仁勳也沒有把開發速度與安全視為二選一。他在9月15日Salesforce的Dreamforce活動上表示：「創新、速度與安全的產品並非二選一」，並呼籲「盡可能快速前進」。

黃仁勳補充，若企業認為自己失去控制，或產品不安全，就應該停下來加以修正。他將安全視為必須透過工程方式解決的問題，而非開發速度的反面。

相較之下，阿莫迪在9月12日發布於個人網站的文章中主張，應放慢AI模型能力提升的速度，為安全性研究爭取追趕時間。他提出的不是全面停止開發，而是調整尖端AI速度的三階段計畫。

阿莫迪區分了企業內部個別安全措施，以及整個業界可驗證的協調機制。他認為，若各企業只建立自己的安全裝置，仍難以阻止競爭壓力造成的「安全性下調競賽」。

Anthropic已表示將向獨立評估者提供系統存取權，但業界是否已建立由全體參與的共同協調機制，尚未確認。阿莫迪提議，政府與企業合作建立共同安全標準及外部驗證機制。

這場爭論反映AI業界對開發速度與安全的不同看法。祖克柏強調企業個別安全措施與市場競爭，黃仁勳主張速度與安全並行，阿莫迪則聚焦共同調整速度與外部驗證。

隨著AI代理開始執行寄送電子郵件、購買等實際操作，權限授予與稽核紀錄的重要性也日益提高。在企業個別安全措施與AI代理控制的討論持續之際，業界能否建立共同標準，仍值得關注。