效能最高快1.8倍:輝達Vera CPU助SpaceXAI擴大Grok運算規模

SpaceXAI將導入輝達(NVIDIA·$NVDA)的Vera CPU，用以驅動次世代AI代理人(AI Agent)運作。整體架構由GPU負責大型模型運算，工具呼叫、程式碼執行、資料處理與模擬則交由CPU分擔。

輝達24日透過新聞稿指出，SpaceXAI將支撐Grok運作的AI基礎架構擴展至Vera Rubin平台。輝達說明，第一代Starmind AI衛星將採用經過最佳化的Vera Rubin NVL72系統。

此次發布顯示，AI基礎架構的競爭已進入不只靠GPU數量取勝的階段。AI代理人不僅止於生成回覆，還需要呼叫外部工具、執行程式碼並處理資料。

在這個過程中，模型呼叫之間的作業會轉化為CPU負載。一旦CPU處理出現延遲，GPU也會被迫等待下一輪運算，進而影響整體處理速度。

Vera是輝達針對AI代理人作業設計的CPU。輝達說明，Vera搭載自家設計的88核心Olympus核心、輝達空間多執行緒(NVIDIA Spatial Multithreading)技術與LPDDR5X記憶體，最高可提供1.2TB/s的記憶體頻寬。

輝達表示，在代理型AI、強化學習與資料處理作業中，Vera的作業完成速度最高比x86 CPU快1.8倍。這項效能比較針對的並非大型模型運算本身，而是代理人執行過程中的瓶頸環節。

輝達超大規模與高效能運算部門副總裁伊恩·巴克(Ian Buck)表示：「代理型AI需要的不只是生成答案的能力，而是一套專為執行行動而設計的全新運算系統」，並說明Vera提供了程式碼執行、資料處理與複雜作業協調所需的CPU效能。

SpaceXAI總裁麥克·尼可斯(Mike Nicolls)表示：「Vera讓GPU能持續專注在自己最擅長的工作上，同時提供大規模協調、程式碼與資料處理所需的CPU效能與記憶體頻寬」。這番話顯示SpaceXAI在以GPU為核心的架構中，也同步納入了CPU瓶頸的解決方案。

Vera Rubin是將CPU、GPU與網路設備整合為機櫃單位的次世代AI基礎架構平台。本刊此前已報導輝達次世代Vera Rubin生產系統正邁入實際資料中心部署階段。

AI資料中心通常不僅取決於單一晶片效能，還需要電力、散熱、記憶體與網路架構相互配合才能發揮效能。即便GPU能處理模型運算，若資料傳輸與作業協調出現延遲，整體系統效率仍會下滑。

輝達的太空運算構想也屬於同一脈絡。輝達在另一份太空運算資料中說明，Starmind AI1衛星的運算酬載即以Vera Rubin NVL72為基礎。

SpaceXAI的Starmind介紹頁面指出，該衛星運算酬載最高150kW、平均120kW，並透過星鏈(Starlink)衛星網路傳輸資料。本刊此前已報導SpaceX與輝達共同開發衛星用AI運算酬載的構想。

就台灣市場而言，這則消息並非直接的加密貨幣基礎架構發布。不過AI資料中心、半導體、電力與衛星網路相互結合的趨勢，仍是數位資產市場參與者同樣關注的技術基礎架構變化。

Grok基礎架構的擴張，以及軌道運算計畫將對實際服務效能與成本結構帶來何種影響，仍有待後續系統部署過程中確認。