新聞 
幣種資訊 
關於我們 
AMD（AMD）於 Meta（META）公開「Muse Spark Open」的 10 月 15 日，公布適用於 Instinct MI350X、MI355X 的執行配置。這套配置以單一節點連接 8 張 GPU，透過 ROCm 7.2 和 vLLM 執行。
AMD 技術文件列出的支援項目包括 BF16 原始檢查點，以及使用 AMD Quark 轉換的 MXFP4、FP8 檢查點。張量平行處理使用 8 張 GPU，執行環境也包含 AMD AITER 核心程式庫。
Meta 硬體文件的 AMD 平台項目也列出 8 張 MI350X 或 MI355X 搭配 vLLM。文件指出，BF16 使用 TP8，MXFP4 和 FP8 則使用 TP8+EP8。文件也分別介紹 NVIDIA（NVDA）、Intel 和 Apple 的硬體配置。
不過，AMD 文件雖列出 FP8 檢查點，說明中卻寫道，路由專家權重會量化為 OCP MXFP4。檢查點名稱與說明不一致，因此目前難以確認 FP8 配置的具體內容。
Meta 公開的 Muse Spark Open 總計有 8,160 億個參數，每個 token 會啟用 420 億個參數，並支援最長 100 萬 token 的上下文窗口。這些規格與 AMD 的執行配置，均為兩家公司各自公布的資訊。
AMD 在技術文件中表示，BF16 配置每個節點可同時處理 32 個、各含 3.2 萬個 token 的請求。這是 AMD 提供的執行條件，並不代表已在相同條件下與其他廠商 GPU 比較，或經過獨立驗證。
這套配置以 8 張 GPU 為前提。因此，僅憑模型採公開權重，不能推定一般個人電腦或單張 GPU 也能執行。
AMD 此前曾支援 Qwen 27B 在模型公開當天於本機執行，相關報導也提及這項案例。此次發布同樣在模型公開時提供執行方案，並針對 Meta 模型介紹 Instinct GPU、ROCm 與 vLLM 的組合。
留言 0