Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Anthropic IPO後仍依安全驗證調整AI開發速度,阿莫代伊:不向商業與政治壓力低頭

達里奧·阿莫代伊(AI插圖)/TokenPost.ai

Anthropic表示,即使完成首次公開募股(IPO),仍將依安全性驗證調整AI模型的訓練與部署速度,優先確保系統在人類控制下安全運作所需的時間,不向商業或政治壓力讓步。

達里奧·阿莫代伊(Dario Amodei)Anthropic執行長在19日納斯達克開盤儀式上表示:「在確信AI系統安全並維持在人類控制之下前,我們會投入所需時間,也不會屈服於商業或政治壓力。」TechCrunch於19日報導,這是他重申IPO後仍依安全標準調整模型開發步調。

阿莫代伊表示,IPO讓公司財務狀況更強,也加深作出正確決策的決心。即使財務基礎擴大,安全判斷標準仍維持不變。

阿莫代伊在9月12日公開的文章中提出,放慢AI模型性能改善速度,為安全裝置與獨立驗證爭取追上的時間。他主張建立業界共同安全標準,並讓第三方評估者持續參與,在開發流程中引入外部檢視。

他所稱的速度調整並非停止AI開發,而是讓安全裝置與外部評估有時間跟上模型性能提升,也包括讓獨立評估者持續接觸模型開發流程。

阿莫代伊強調以安全為核心的「向上競爭」。無論Anthropic在特定時點是否領先,都應促使整個業界採用更高的安全標準。

他認為,若足夠強大的AI與人類合作,可能把一個世紀的科學與醫學進展壓縮到10年,但目前成果仍處於早期階段,實驗與臨床試驗需要時間。

阿莫代伊指出,客戶正將AI用於推動經濟成長、脫離貧困、保護民主與自由社會,以及改善日常公共服務。

同時,他把個人或國家濫用、經濟混亂及失去對AI系統的控制列為實際風險。他表示,這些風險並非不可避免,取決於AI開發者的選擇。

Anthropic目前推動三方面工作:△生物與網路風險防禦;△對齊訓練與測試;△觀察模型內部並引導行為的可解釋技術。公司表示,這些方法旨在理解AI行為並維持人類控制。

美聯社(AP)指出,IPO後Anthropic面臨擴大股東回報要求與安全原則之間的張力。阿莫代伊也把安全與AI發展速度的衝突稱為公司的「核心張力」。

Anthropic的IPO招股說明書載明,公司作為公益公司(PBC),治理架構須同時考量股東利益與公益目標,為上市後處理股東要求與公益使命提供制度框架。

長期公益信託(LTBT)擁有任免過半數董事的權利;共同創辦人組成的Founder LLC則可行使一般股東投票權的50.1%。

Anthropic表示,這套結構旨在兼顧尖端AI的負責任開發與人類長期利益。PBC、LTBT與Founder LLC的權限分配,被定位為上市後把安全原則保留在治理架構中的安排。

阿莫代伊表示,IPO可提供現金緩衝,以應對長期計算資源採購與租賃承諾。本報先前曾報導相關說法。具體AI訓練與部署速度,以及外部安全評估結果,仍待公司後續公開資料確認。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1