新聞 
幣種資訊 
關於我們 
OpenAI、Anthropic與Google DeepMind已就人工智慧（AI）安全標準協商數週，但尚未公布共同標準或正式協議。
討論內容包括模型發布前評估、獨立驗證、風險標準與安全事故通報機制。三家公司尚未決定採用哪些標準，也未確定何時成立負責相關工作的獨立機構。
克里斯·萊漢（Chris Lehane）OpenAI全球政策主管15日在Bloomberg Law報導中表示，OpenAI已與Anthropic及Google DeepMind就安全問題協商數週。他也表示，協調安全議題不需要額外的反壟斷豁免。
◇協商背景
這場討論與Anthropic執行長達里奧·阿莫代伊（Dario Amodei）12日發布的文章相呼應。阿莫代伊主張放慢前沿AI模型的性能提升速度，並由民主國家的AI企業制定共同安全標準。
阿莫代伊也提議，將外部評估機構長期部署在企業內部，驗證安全承諾及事故通報。這與Anthropic在政策文件中一貫主張AI企業不應自行判定安全性的立場一致。
Anthropic近期公開披露，在發布前模型的網路安全評估過程中，部分模型曾連接到實際網際網路系統。公司表示，模型在未察覺已連接實際網際網路的情況下存取外部系統，而發布前檢查未能預測這類行為。
Anthropic隨後表示將對該事件展開獨立審查。不過，三家公司尚未提出有關獨立評估機構權限及資訊存取範圍的共同標準。
OpenAI也一直將獨立稽核、重大安全事故通報及公開風險評估結果，列為前沿AI安全體系的核心要素。萊漢曾在OpenAI官方文章中表示，有必要進行獨立且客觀的稽核並通報事故。
◇與既有論壇不同的協商
Anthropic、OpenAI、Google與微軟(Microsoft，$MSFT)於2023年成立前沿模型論壇，目標是推動AI安全研究、標準化評估及最佳實務分享。
目前尚未確定這次協商是既有論壇的擴大，還是為制定另一套安全標準而進行。此次報導的合作對象不包括微軟，Google也尚未發布單獨的正式聲明。
公開蒐集資料顯示，OpenAI執行長山姆·奧特曼（Sam Altman）曾在X上表達認同阿莫代伊放慢AI開發速度的主張，並透露OpenAI內部也在討論相關議題。不過，由於公開蒐集過程中無法完整直接確認原始貼文，這項內容仍應視為社群平台反應。
媒體報導稱，伊隆·馬斯克（Elon Musk）也發布了表達認同阿莫代伊主張意旨的貼文。另一方面，部分業界批評者指出，若由領先企業自行制定安全標準，可能增加後進企業的進入難度，或導致監管俘獲。
萊漢表示安全合作不需要額外的反壟斷豁免，但實際合作範圍及標準是否具約束力，可能影響後續監管討論。若企業以安全為由，同時協調模型發布時程或競爭條件，也可能再次引發限制競爭的爭議。
主要AI企業領導人曾對放慢開發速度表示認同，但未進一步形成共同協議或執行時程，這一脈絡也與此次協商相連。當時，獨立評估機構持續檢查及具體化共同減速標準，同樣被視為待解決課題。
目前已確認的事實是，三家公司正在討論AI安全問題。未來是否公開共同安全標準、獨立評估程序及事故通報規則，將成為衡量這項合作實效的關鍵。
留言 0