Meta(META)已公開多模態人工智慧(AI)模型 Muse Spark Open 的權重。模型共有8160億個參數;若要自行部署,仍須考量能載入全部權重的硬體設備與授權條件。
Meta於10月15日發布的開發者文件指出,模型有420億個活躍參數,脈絡視窗為104萬8576個 token。模型支援文字、圖片、語音與影片輸入,設計用途包括程式碼撰寫、代理任務及多步驟推理。
模型權重透過 Hugging Face 及雲端與推論平台提供。Meta文件列出的部署管道包括 Amazon SageMaker AI、Google Cloud Model Garden、Microsoft Foundry;推論平台則包括 Baseten、Fireworks AI、Groq 等。不過,公開權重不代表可以不受限制地開源使用,模型仍受 Muse Model License 與另外的使用政策規範。
自行部署時,必須載入記憶體的是完整8160億個參數的權重,而非只有活躍參數。Meta表示,每個 token 的運算以420億個活躍參數為基礎,但要運行服務仍須載入全部權重。
Meta以兩台 Apple M5 Ultra Mac Studio 搭配 MLX 的桌上型電腦配置作為參考案例。實際成本與效能會因部署環境而異。總參數與活躍參數的差異,也是評估開放權重模型運作需求時的重要因素。
此次公開代表 Meta 將 Muse Spark Open 的權重提供給外部使用。Meta先前發布 Muse Glimmer,再次引發外界對開放權重模型的討論。Muse Spark Open 也提供權重,讓使用者能在自己的環境中操作,但可使用的範圍仍取決於授權與運算資源。
原始報導稱,Muse Spark Open 已在 Arena.ai 的 Agent Arena 與 Code Arena 展開公開測試。不過,Arena.ai 的官方變更紀錄截至9月13日僅顯示 Muse Spark 1.3 部分列入排行榜;截至10月15日公開的變更紀錄,尚無法確認 Muse Spark Open 是否上榜或取得分數。
Arena.ai會依評測項目將模型列入排行榜。上榜與得分可反映模型參與了哪些評測,但目前公開紀錄尚未證實 Muse Spark Open 的參與情形與結果。
留言 0