300億參數Muse Glimmer登場 消費級顯卡即可運行

Meta（Meta·META）10日發布可在單張消費級顯示卡上運行的300億參數人工智慧（AI）模型「Muse Glimmer」。這是一款開放權重模型，設計目的是讓代理型（agentic）任務能在個人電腦上處理，不必經過大型雲端伺服器。

ZeroHedge報導，Muse Glimmer的權重已在模型儲存平台Hugging Face公開。授權方式採用允許修改與再散布的Apache 2.0條款，使用者須遵守著作權與授權標示等相關規定。

此次發布延續了Meta此前推出可在個人電腦運行的輕量開放權重AI模型的動向。開放權重是指將AI處理輸入與產生結果時使用的運算數值（權重）公開供下載的發布方式。

開放權重與開源的公開範圍並不相同。即便公開模型權重，也不代表訓練數據、原始碼與完整開發過程都一併公開。

Muse Glimmer以Meta的大型模型Muse Spark為基礎訓練而成，採用了「蒸餾」技術，也就是利用大型模型的輸出與訓練結果來提升小型模型的表現。

300億參數模型若維持原始精度，通常需要超過55GB記憶體。Meta透過降低數值精度的壓縮技術，將模型大小縮減至20GB以下。

壓縮後的模型可在24GB或32GB等級的顯示卡上，與其他運行元件一同執行。這項架構鎖定的是希望在自有設備上運行模型、不需支付雲端費用或連接外部伺服器的開發者。

為提升推論速度，Muse Glimmer採用了「推測解碼」（speculative decoding）方式，由較小的輔助模型先預測下一段文字片段，再由主模型一次驗證多項預測結果。

根據Meta自行進行的測試，Muse Glimmer在RTX 5090上速度提升3.1倍，在M5 Max上提升1.8倍，在M4 Max上提升1.5倍。不過，這些比較基準與效能數據均來自Meta的內部測試，仍有待外部獨立驗證。

Muse Glimmer聚焦於程式編寫、行政事務處理，以及需呼叫外部工具等多步驟的代理型任務。所謂代理型AI，指的是不僅回應使用者指令生成答案，還能拆解任務並運用工具完成成果的模型。

Meta將Muse Glimmer定位為對標Google的Gemma4-31B與阿里巴巴的Qwen3.6-27B的模型。公司方面表示，在程式錯誤修正、外部工具呼叫，以及任務失敗後復原能力等實測項目中，該模型具備競爭力。

馬克·祖克柏（Mark Zuckerberg）Meta執行長（CEO）在題為「未來屬於每一個人（The Future Is for Everyone）」的文章中表示：「若要讓美國開源模型長期保持領先，美國的政策應該減少這類額外的摩擦。」他認為AI能力應廣泛分配給個人與開發者，而非集中在少數機構手中，這番話反映他長期主張的開源開放路線。

此次發布正值Google、阿里巴巴、Mistral、DeepSeek等相繼推出小型開放模型之際。將模型放在自有設備上運行，雖能讓使用者直接掌控使用環境並依需求調整，但運行設備與維運能力仍須由使用者自行準備。

AI模型在本地端運行的擴大，直接牽動顯示卡與個人運算資源的需求。這一趨勢是否會延伸至加密貨幣AI板塊與去中心化運算領域，仍待進一步觀察，目前尚未確認對相關代幣價格或交易量產生直接影響。

Meta計劃在未來數週內公開Muse Spark的開放權重版本，之後再推出規模更大的模型。Muse Glimmer的實際效能，預計將在下載權重的外部開發者完成獨立測試後逐步明朗。