Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

8160億參數 Muse Spark Open 開放權重,部署仍受授權與硬體限制

並排擺放的桌上型電腦與連接設備 / TokenPost.ai

Meta(META)已公開多模態人工智慧(AI)模型 Muse Spark Open 的權重。模型共有8160億個參數;若要自行部署,仍須考量能載入全部權重的硬體設備與授權條件。

Meta於10月15日發布的開發者文件指出,模型有420億個活躍參數,脈絡視窗為104萬8576個 token。模型支援文字、圖片、語音與影片輸入,設計用途包括程式碼撰寫、代理任務及多步驟推理。

模型權重透過 Hugging Face 及雲端與推論平台提供。Meta文件列出的部署管道包括 Amazon SageMaker AI、Google Cloud Model Garden、Microsoft Foundry;推論平台則包括 Baseten、Fireworks AI、Groq 等。不過,公開權重不代表可以不受限制地開源使用,模型仍受 Muse Model License 與另外的使用政策規範。

自行部署時,必須載入記憶體的是完整8160億個參數的權重,而非只有活躍參數。Meta表示,每個 token 的運算以420億個活躍參數為基礎,但要運行服務仍須載入全部權重。

Meta以兩台 Apple M5 Ultra Mac Studio 搭配 MLX 的桌上型電腦配置作為參考案例。實際成本與效能會因部署環境而異。總參數與活躍參數的差異,也是評估開放權重模型運作需求時的重要因素。

此次公開代表 Meta 將 Muse Spark Open 的權重提供給外部使用。Meta先前發布 Muse Glimmer,再次引發外界對開放權重模型的討論。Muse Spark Open 也提供權重,讓使用者能在自己的環境中操作,但可使用的範圍仍取決於授權與運算資源。

原始報導稱,Muse Spark Open 已在 Arena.ai 的 Agent Arena 與 Code Arena 展開公開測試。不過,Arena.ai 的官方變更紀錄截至9月13日僅顯示 Muse Spark 1.3 部分列入排行榜;截至10月15日公開的變更紀錄,尚無法確認 Muse Spark Open 是否上榜或取得分數。

Arena.ai會依評測項目將模型列入排行榜。上榜與得分可反映模型參與了哪些評測,但目前公開紀錄尚未證實 Muse Spark Open 的參與情形與結果。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1