Solana共同創辦人阿納托利·雅科文科(Anatoly Yakovenko)將人工智慧(AI)產業近來討論的「開發速度是否該放緩」,與能否撐起1兆美元市值(約新台幣31兆元)的獲利能力問題連結在一起。他暗示,呼籲AI開發降速的討論背後,可能存在龐大開發成本與獲利壓力。
雅科文科於13日在X平台上,針對達里奧·阿莫迪(Dario Amodei)的貼文,簡短回應「Profitability at $1 trillion mcap」(暫譯:在1兆美元市值下的獲利能力)。雅科文科並未提出任何AI企業具體的成本結構或財務資料,將1兆美元市值與獲利能力連結純屬個人解讀。科技媒體U.Today報導了雅科文科在X平台上的貼文與後續發言,並將其解讀為與AI企業獲利問題相關的評論。
這場討論的起點,是Anthropic執行長(CEO)達里奧·阿莫迪公開發表的文章「We Must Pace the Frontier」(我們必須調節前沿開發速度)。阿莫迪主張,應放緩AI模型能力提升的速度,讓安全防護機制有時間跟上腳步,但他也說明這並不代表要全面中止開發與模型訓練。
阿莫迪將此構想稱為「調節式開發」,作法是讓AI企業在開發過程中同步進行安全性驗證與外部評估,並讓其他頂尖AI企業也加入同一套機制。
核心提案是賦予第三方評估機構常態進駐AI企業內部的權限。評估機構將檢視企業是否遵守安全程序、有無發生事故,且不只檢視完成後的模型,也會審視訓練過程與開發程序。
Anthropic表示將率先自行實施這項做法,不過外部評估機構的具體運作方式,以及其他企業的參與條件,目前尚未明朗。
阿莫迪認為,AI協助開發下一代AI的「遞歸式自我改進」正在加速。他以OpenAI與Hugging Face相關的代理程式(agent)事故為例,示警若出現比現有系統更強大、卻缺乏管控的AI代理程式群集,恐有機會在6至12個月內掌控整個網路。這段期間與損害規模是阿莫迪提出的推估,並不代表相關情境已實際發生,或網路已遭掌控。
OpenAI執行長(CEO)山姆·奧特曼(Sam Altman)表示,願意讓外部評估者取得與內部員工相近程度的存取權限。美聯社(AP)報導指出,奧特曼已表態接受讓外部評估者取得與員工相近的存取權限。
xAI執行長(CEO)伊隆·馬斯克(Elon Musk)也公開呼應阿莫迪提出的問題意識,不過目前並無資料顯示三家企業已簽署具有約束力的開發中止協議。
雅科文科的回應,凸顯這場討論恐怕難以單純用「安全議題」概括。他的論點是,AI模型開發需要投入晶片、電力與資料中心建設等龐大成本,企業估值愈高,就愈需要向投資人證明獲利能力。
部分社群媒體用戶主張,要求放緩開發速度的呼聲,可能是既有企業用來鞏固競爭優勢的策略之一,不過這類說法並未獲得相關企業官方立場或財務資料證實。
阿莫迪也承認,要在包含中國在內的國際間達成協調並不容易,但仍堅持安全驗證與外部監督機制有其必要。也因此,這場論戰與其說是「安全」與「獲利」的簡單對立,不如說更聚焦於高成本AI競爭中,開發速度與管控程度該如何拿捏。
就台灣市場而言,AI模型開發所需的晶片、電力與資料中心投資,同樣牽動相關產業鏈。本站先前已報導馬斯克提及Google與Anthropic正在租用SpaceX的AI運算資源一事。
目前可以確認的事實是,阿莫迪提出了外部評估與開發降速的構想,奧特曼與馬斯克也公開表達認同。至於評估機構是否真的會上路,以及各家開發時程是否出現變化,仍有待各企業後續公布。
留言 0