輝達(NVDA)證實Groq 3 LPX量產 下半年供應Vera Rubin平台

輝達(NVDA)把人工智慧（AI）推理加速器Groq 3 LPX，定位為Vera Rubin平台的低延遲處理設備。單一機櫃可容納256顆LPU，並配備128GB的on-chip SRAM。

輝達在3月16日的新聞稿中表示，組成Vera Rubin平台的7款晶片已進入量產階段，分別是Vera CPU、Rubin GPU、NVLink 6交換器、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6乙太網路交換器，以及Groq 3 LPU。

Groq 3 LPX鎖定的是推理，而非訓練。推理指的是AI模型接收輸入後產生答案的過程，對聊天機器人與代理型AI服務來說，回應延遲與電力效率是關鍵指標。

輝達公開的Groq 3 LPX機櫃，由32個液冷式1U運算托盤組成，每個托盤搭載8顆LPU，整個機櫃合計256顆LPU。

依輝達的說法，每顆LPU可提供500MB SRAM與150TB/s的SRAM頻寬。以整個機櫃計算，on-chip SRAM達128GB，SRAM頻寬40PB/s，擴展頻寬（scale-up bandwidth）640TB/s，FP8運算效能315PFLOPS。

輝達在技術部落格說明，Vera Rubin NVL72負責大型模型的輸入處理與注意力（attention）運算，Groq 3 LPX則補足輸出生成階段中對延遲敏感的部分。輝達提出的數字顯示，兩者搭配使用，在兆級參數模型上，每百萬瓦的推理處理量最高可提升35倍。

這項數字是輝達自行公布的效能指標，實際資料中心環境會因模型架構、電力條件、網路配置與散熱設計而有差異。這也反映出AI基礎建設的競爭焦點，正從單一晶片效能轉向機櫃層級的系統設計。

部分中文媒體報導提到，Groq 3 LPX的輸出速度為每秒3400個代幣（token），但輝達新聞稿與技術部落格的主要表格並未直接列出這項數字。文章仍以已確認的機櫃規格與量產、供應時程為主。

Groq 3 LPX受到關注，與AI服務的成本結構有關。營運大型模型的企業，除了需要訓練所用的運算資源，也必須降低即時處理用戶請求的推理成本。

一般AI資料中心會把GPU、CPU、網路設備、記憶體與散熱設備整合成單一系統。推理階段一旦出現瓶頸，昂貴的運算設備就無法充分發揮效能，電力與資料搬移成本也會隨之增加。

輝達的策略正是瞄準這一點。如同本社先前報導提到輝達正加快Groq晶片的製造與客戶供應，低延遲推理基礎設施已成為AI工廠建設競賽的一環。

不過，供應中國市場的LPU問題應另外看待。輝達先前已表示不在中國市場銷售LPU，也沒有針對中國市場推出專屬LPU產品的規劃。

輝達執行長黃仁勳（Jensen Huang）在GTC 2026主題演講中提到，Groq晶片正在量產，出貨時間點約落在下半年、第三季前後。輝達說明，Groq 3 LPX有機會在今年下半年導入Vera Rubin AI工廠。

對台灣市場而言，觀察重點在於記憶體、伺服器、網路與散熱零組件供應鏈是否能與這波需求接軌。實際影響仍須等Groq 3 LPX的出貨規模與客戶導入速度明朗後，才能進一步判斷。