3.56TB！美團（3690.HK）公開 LongCat-2.5 權重

美團（Meituan，3690.HK）公開 LongCat-2.5 的模型權重。Hugging Face 儲存庫上架 208 個權重檔案，總容量為 3.56TB。

美團於 11 月 2 日在技術部落格介紹這款模型，並於 9 日公開權重。開發者現在可以直接存取模型檔案；模型介紹與權重發布分別在不同時間進行。

儲存庫標示採用 MIT 授權條款。模型卡說明，這項授權不代表取得美團商標或專利的使用權。

公開權重不代表訓練資料或完整訓練流程也一併公開，此次上架的是構成模型的權重檔案。

美團介紹，LongCat-2.5 是混合專家（MoE）模型，總參數量為 1.6 兆，每個 token 約有 480 億個參數啟用。MoE 會依據輸入內容，啟用多個專家模組中的部分模組。

不過，Hugging Face 模型卡標示總參數量為 1.6 兆，同一頁面的自動產生中繼資料則顯示 1.8 兆。美團尚未對兩項數字的差異作出說明。

這款模型採用多模態架構，會將影像訊號轉換為多層級的離散 token，並與文字一同處理。美團列出的主要用途包括複雜程式碼庫開發、完整專案建置，以及運用視覺資訊進行程式開發。

美團技術部落格表示，考量到單張中國製 AI 加速器的記憶體不到 80GB，模型在中期訓練與監督式微調（SFT）階段採用了長序列。中國製晶片執行 AI 模型的先前案例，也可見於本刊對中國製晶片模型發布的報導。

訓練系統採用優先使用超級節點內部通訊的平行策略，以及雙重分片的全分片資料平行（FSDP）。美團表示，這項設計降低了記憶體用量；技術部落格具體說明的範圍是中期訓練與 SFT。

推論階段採用 W4A4 量化方式，將專家權重與啟用值分別量化為 4 位元。

美團表示，根據公司自行進行的線上負載測試，W4A4 的輸入處理（prefill）吞吐量比 W8A8 高 43.3%，輸出生成（decode）吞吐量高 42.77%。這兩項數據均為公司測試結果。

一名 Reddit 原文作者寫道，在權重發布前，他曾要求預覽版模型分析程式碼，但約 20 分鐘後工作仍未完成，推論過程還不斷重複同一句話。另一名留言者則表示，在設定虛擬機器期間，模型多次重複執行簡單的「ls」指令。

另一名 Reddit 使用者表示，在一項執行 267 次任務的比較測試中，預覽版模型的首次嘗試成功率（pass@1）為 48.7%，三次內成功率（pass@3）為 64.0%。這是權重公開前，個人針對預覽版進行的測試。

Hacker News 模型介紹文章的討論中，有人根據公開基準測試認為其 API 具競爭力，也有人指出模型規模龐大，可能妨礙在個人設備上部署。這場討論同樣發生在權重公開前。