每秒3400代幣 輝達(NVDA)機架系統Groq 3 LPX全面量產

輝達(NVDA)已將採用Groq技術的機架規模AI推理系統「Groq 3 LPX」推進至全面量產階段。根據官方公告確認的內容,此次合作涵蓋「非獨家授權」、部分人力轉移,以及商用基礎設施部署三大部分。

輝達於8月24日表示,Groq 3 LPX已進入全面量產狀態。這套系統定位為輝達Vera Rubin NVL72推理效能的補強產品,鎖定需要長文本與低延遲的「代理型AI」（agentic AI）工作負載。

輝達說明,根據Artificial Analysis的基準測試,Groq 3 LPX搭配Gemma 4 31B模型,在10萬token文本長度下,每秒可輸出3400個token。輝達強調,這是官方公布的基準測試數據,實際資料中心環境中的表現,仍會依模型架構、電力、網路與散熱條件而有所不同。

首家採用廠商為AI雲端業者Nebius。Nebius表示,將把Groq 3 LPX導入自家推理平台Token Factory。該公司說明,這並非更換整套技術堆疊,而是在同一平台上改變可選用的模型。

此次合作的起點,是2025年12月24日簽署的授權協議。Groq與輝達簽訂非獨家推理技術授權合約,Groq創辦人喬納森·羅斯(Jonathan Ross)與Groq總裁桑尼·馬德拉(Sunny Madra)等部分人力將轉往輝達任職。Groq表示,公司本身仍將維持獨立營運。

路透社引述CNBC報導稱,輝達曾計畫以200億美元收購Groq。不過,輝達與Groq均未對該金額置評,Groq的官方聲明中也未提及收購金額。

因此,從目前可確認的內容來看,這起事件的核心並非「收購完成」,而是透過非獨家授權方式吸收技術並轉化為產品。輝達將Groq的推理技術整合進自家機架規模基礎設施,再由Nebius將其部署至實際雲端服務。

Groq於8月17日宣布完成3億5000萬美元的A輪募資,當時企業估值為35億美元。同一份公告中也提到輝達的參與計畫,以及近期累計募資金額達10億美元。

Groq也在8月12日宣布加入輝達雲端合作夥伴計畫。公司表示,現有資料中心可依輝達標準運作,並計劃將容量擴增至200MW以上。

Groq 3 LPX是一款聚焦「推理」而非「訓練」的設備。所謂推理,是指已完成訓練的AI模型針對使用者請求生成回應的階段。在聊天機器人與代理型AI服務中,除了回答品質外,token生成速度、延遲與電力效率也被視為關鍵效能指標。

輝達過去的優勢在於大規模訓練與通用加速運算。而搭載Groq技術的LPX機架,則更著重補強輸出生成環節。這也與先前指出AI競爭瓶頸正轉向晶片、記憶體、電力與資料中心等上游基礎設施的分析相呼應。

反壟斷風險也被提出討論。伯恩斯坦(Bernstein)分析師史黛西·拉斯貢(Stacy Rasgon)在路透社報導中表示,「反壟斷看起來是這起案件的主要風險」。他認為,非獨家授權的架構可能只是在形式上保留了競爭外觀。

對台灣投資人而言,這起事件的意義不僅止於AI設備發布,也是觀察美國科技股、半導體與資料中心基礎設施動向的重要指標。在輝達持續擴大AI基礎設施合作範圍的脈絡下,Groq 3 LPX可視為晶片銷售、雲端部署與授權式技術吸收三者結合的案例。

Groq 3 LPX的實際效果,可能要等到Nebius在Token Factory完成部署後才會顯現。目前可確認的時程與數據,包括輝達的量產公告、Nebius的率先採用,以及Groq維持獨立營運的方針。