輝達($NVDA)的 Vera Rubin NVL72 已投入 CoreWeave($CRWV)雲端服務的生產級AI工作,Cognition則成為首個在該系統上執行生產級代理式AI工作的客戶。
CoreWeave在官方部落格表示,已開始限量提供 Vera Rubin NVL72,並以部署於多個地區的 Rubin GPU為基礎,協助客戶將工作負載導入生產環境。CoreWeave指出,在Cognition的SWE-2推理工作中,總Token處理量相較GB200 NVL72最高達4.8倍。
Vera Rubin NVL72是一套以單一機架為單位的系統,結合72個Rubin GPU與36個Vera CPU。CoreWeave表示,Cognition在接收機架後幾天內,無需額外客製化建置工作便開始執行生產級工作。
留言 0