輝達(NVIDIA,$NVDA)在官方銷售頁上架「DGX Spark HPC Developer Kit」,套件包含4台DGX Spark與4條連接線。這是將多台設備連接使用的組合,與單台設備分開銷售。
輝達官方銷售頁列出,套件由4台DGX Spark和4條連接線組成。每台設備搭載GB10 Grace Blackwell超級晶片、128GB統一記憶體、4TB儲存空間及ConnectX-7網路裝置;頁面所列規格均以單台設備為準。
若將4台設備的統一記憶體容量直接相加,合計為512GB,但這不代表單台設備搭載512GB統一記憶體。
套件也包含HPC開發套件快速入門指南,以及90天免費使用NVIDIA AI Enterprise的權益。網路交換器列為最低需求,並非套件內含品項。
銷售頁未列出整套價格,僅提供洽詢購買的方式。同一頁面上,單台DGX Spark售價為6,950美元(約928萬韓元),但不能據此推算整套套件價格。
單台設備的AI運算效能標示為FP4下1 petaflop。這是FP4 AI運算指標,不代表科學運算程式的執行速度,也不代表整套設備的實際處理量。
HPC是利用多項運算資源處理複雜計算的高效能運算。除了連接設備的數量,程式如何在設備之間傳輸資料,也會影響效能。
輝達在10月22日發布的技術部落格指出,4台DGX Spark以無交換器的環狀方式連接,可能適合單一AI模型的推論工作。環狀連接是讓每台設備依序連接相鄰設備。
輝達以NVFP4精度執行Qwen3.8-27B模型測試,4台設備採實體環狀連接時,推論處理量為每秒32.82個token。相同測試中,單台設備每秒處理11.86個token,4台配置的處理量是單台的2.77倍。
測試條件為輸入8192個token、輸出256個token,並同時處理1項請求;測試未使用推測解碼或MTP。這些數據來自特定模型與執行設定。
輝達表示,需要設備彼此直接通訊的傳統HPC工作需要交換器。部落格指出,像是以MPI為基礎的叢集運算等點對點通訊工作,採用環狀連接時可能需要經過多個步驟,因此較不利。
若要將叢集分成多個群組使用,或擴充至8台設備,也需要透過交換器連接。輝達說明,僅靠環狀配置無法建立將叢集劃分為獨立設備群組的連接方式。
因此,套件附有4條連接線,不代表所有科學運算工作都能以相同方式處理。輝達在銷售頁將交換器列為最低需求,並在部落格說明,合適的連接方式會因工作而異。
輝達部落格中的4台設備測試,測量的是特定AI模型的推論效能,並非銷售頁上這款套件的HPC效能測試結果。
本刊先前曾報導在兩台GB300 DGX Station上分散執行GLM-5.3的結果,但該案例使用的設備配置與這款DGX Spark套件不同,當時的測量數據不能視為本套件的效能表現。
Comment 0