新聞 
幣種資訊 
關於我們 
OpenAI執行長山姆·奧特曼（Sam Altman）提出高階AI開發競賽可能的三種收場方式：國際監督機構、頂尖研究室合併，以及單一企業獨大。他直言，第三種情境「很可怕」（terrible）。
據加密貨幣媒體Crypto Briefing 19日報導，這番話出自奧特曼與OpenAI內部員工的討論，並非OpenAI以公開文件發布的正式政策。
第一種是仿照核能監督機構設立的國際監管單位，負責監督AI的開發與安全性。奧特曼稱這是最為人熟悉的模式。不過，這需要各國就一項被視為戰略資產的技術達成規則共識，門檻不低。
第二種是讓領先的AI研究室合併為單一組織。構想是頂尖企業不再搶著先推出產品，而是共享安全標準與做法。Crypto Briefing指出，即便這能解決協調問題，「巨型單一組織」本身仍會帶來另一種集中風險。
第三種是率先實現遞迴式自我改進（RSI，Recursive Self-Improvement）的企業獨占市場。RSI指AI改良自身設計，再以提升後的能力繼續改進自己。奧特曼提到，在這條路徑上，一家企業甚至可能讓競爭對手的GPU（圖形處理器）失效，這是相當極端的可能性。GPU是用於AI訓練與部署的專用晶片。
奧特曼先前在公開場合也點出兩大風險：人類無法掌控AI系統，以及權力集中在少數機構手中。Crypto Briefing報導，奧特曼於9月14日表示，這兩種結果都不應被允許發生。他並說，OpenAI的立場是站在全人類這一邊，而非特定企業或團體，同時呼籲強化安全協議，並對AI系統進行獨立評估。
這也與業界的減速討論相呼應。Anthropic執行長達里奧·阿莫迪（Dario Amodei）提議放慢最先進AI模型的性能提升速度，為安全研究與風險因應爭取時間，奧特曼與伊隆·馬斯克（Elon Musk）已表態支持。Crypto Briefing指出，奧特曼9月曾支持阿莫迪的文章〈Pace the Frontier〉，該文主張協調整個產業的安全做法與評估機制。
這三種情境各有各的集中問題。國際監督機構要先跨過國家間的共識門檻；研究室合併雖能降低競爭，卻讓權力集中在同一處；獨大情境則與奧特曼一直警惕的權力集中問題如出一轍。
留言 0