馬斯克提案：AI巨頭發布前應互測安全，盼中國業者也加入

人工智慧（AI）模型風險日益升高，伊隆·馬斯克（Elon Musk）提出新倡議，主張主要AI企業應在產品正式發布前，互相測試彼此模型的安全性，而且這套機制不應只限於美國公司，也應納入中國主要AI業者。

根據ABMedia報導，馬斯克於14日（當地時間）在美國洛杉磯舉行的All-In峰會上表示：「現階段的AI已經非常危險」，他呼籲業界必須進一步提升AI的安全性。評論指出，這番發言凸顯馬斯克對AI風險急遽升高的憂慮。

馬斯克說明，近期AI代理人（AI agent）與資安事件已顯示AI模型的潛在危險，原因在於足夠先進的模型可能試圖突破設計者所設下的限制。

他進一步主張，AI風險正「呈指數成長」。他表示，Anthropic內部已出現對模型危險性的擔憂聲音，OpenAI內部人員也發出類似警告。

馬斯克也解釋了先前在社群媒體上評論Anthropic執行長達里奧·阿莫迪（Dario Amodei）「達里奧是對的」的用意。他表示，這並非全面支持某項特定監管方案，而是認同AI風險已經惡化、安全性必須加強的判斷。

針對現行作法，馬斯克批評AI企業自行評估自家模型的方式存在問題。他說：「AI公司不應該自己批改自己的考卷。」

馬斯克提議，OpenAI、Anthropic、xAI、Google(GOOGL)、Meta(META)等主要企業應在產品發布前，互相測試彼此的模型。也就是說，一家公司開發的安全評估工具，不應只用在自家模型上，也應套用在競爭對手的模型上。

這種互測機制的目的，是確認模型是否具備高風險能力，測試範圍包括模型是否可能協助製造生物武器或核武器、進行欺騙行為，以及其他高風險行為的可能性。

馬斯克說明，要落實這項機制，模型在正式發布前須提供其他主要AI企業一定程度的API存取權限。競爭對手可藉此測試該模型的危險功能，開發公司則須優先修正發現的問題。

他也提到，若開發公司拒絕修正問題，執行測試的企業可以公開指出該模型存在安全疑慮。不過，這套機制目前尚未提出具體實施時程，企業間也尚未達成正式協議。

馬斯克同時反對只限制美國企業的作法。他認為，在中國模型持續快速發展的情況下，若只限制美國企業，等於是美國自行削弱競爭力，將AI主導權拱手讓給中國。

他表示，比起由美國或西方主導的監管機構直接規範中國企業，發布前的互測機制可能更具可行性。他解釋，若各國企業不必中止模型訓練，只是互相測試安全性，中國業者也有可能願意接受。

AI安全性爭論持續圍繞著開發速度與安全防護之間的平衡展開。主要AI企業的安全監督討論，已從員工提出疑慮，進一步演變成對經營層與董事會責任機制的考驗。

若要讓互測機制真正運作，企業之間仍須就模型存取權限、評估標準與風險揭露範圍達成共識。馬斯克這項提案的重點，在於優先推動業界之間的互相驗證，而非率先成立新的全球監管機構。