輝達(NVIDIA,NVDA)據報提議,將美國電信業者 Brightspeed 的電信設施用作分散式 AI 資料中心。
Crypto Briefing 7日報導,輝達提出運用 Brightspeed 遍布多州的逾130處設施建置 AI 資料中心的構想。報導指出,客戶群與商業條件尚未敲定。
AI 推論是訓練完成的模型處理使用者請求的階段。這項構想是把推論伺服器部署在不同地區的電信設施。
輝達先前曾介紹一種推論架構,由 Vera Rubin 負責輸入處理與注意力運算,Groq 3 LPX 則補足輸出生成中對延遲敏感的環節。甲骨文(Oracle,ORCL)也曾表示,計畫將搭載 Vera Rubin NVL72 系統的 OCI Supercluster 擴大至數 GW 規模。
報導也提到,部分設施最快可能於2027年第一季部署 Vera Rubin 伺服器。
Comment 0