谷歌雲端(Google Cloud)與輝達(NVDA)正式全面開放「NVIDIA Vera Rubin」基礎設施,企業客戶從此可以在谷歌雲端上使用輝達新一代人工智慧(AI)平台薇拉·魯賓(Vera Rubin)。
雙方於21日宣布,該基礎設施已進入全面可用狀態。MarsBit在台灣時間當晚6時52分左右報導了這項消息,但實例規格與費率等細節尚未公布。
薇拉·魯賓是輝達為AI資料中心推出的平台,並非單一晶片,而是整合CPU、GPU與網路設備的系統級產品。雲端業者一旦開放此架構,企業客戶便無需自行採購設備,即可直接租用。
輝達先前已公布這套平台的組成。輝達在3月16日的新聞稿中表示,組成薇拉·魯賓平台的7款晶片已進入量產階段,分別為△Vera CPU△Rubin GPU△NVLink 6交換器△ConnectX-9 SuperNIC△BlueField-4 DPU△Spectrum-6乙太網路交換器△Groq 3 LPU。
其中,Groq 3 LPX是專為推理而非訓練設計的設備。推理指AI模型接收輸入後產生回應的過程,在聊天機器人或代理型AI服務中,回應延遲與電力效率被視為關鍵性能指標。輝達公布的Groq 3 LPX機櫃由32個液冷式1U運算托盤組成,每個托盤搭載8顆LPU,換算下來每個機櫃共256顆LPU,晶片上SRAM容量達128GB。
薇拉·魯賓也被用於AI代理的安全架構設計。輝達發表了「NVIDIA OpenShell參考架構」,一旦代理行為超出預設的軟體邊界,系統便會在硬體層級將其隔離並停止運作。這套架構在OpenShell安全執行環境之上,結合了薇拉·魯賓、Vera CPU與BlueField-4 DPU:模型推理由薇拉·魯賓負責,Vera CPU則處理執行代理所需的運作框架與工具呼叫。
輝達稍早已於7月21日在官方部落格中表示,CoreWeave、谷歌雲端、微軟(MSFT) Azure、Oracle雲端基礎設施(OCI)與Nebius的合作夥伴機櫃中,薇拉·魯賓已在運行。
留言 0