開放權重模型占2026年8月Vercel AI Gateway處理token用量的56%,但支出占比僅14%;Anthropic則占整體支出的64%,呈現用量與成本主導者不同的結果。
Vercel於17日公布的《AI Gateway Production Index》指出,開放權重模型的token占比已從2025年12月的不到7%,在8個月後擴大至過半。2026年4月的占比則因統計口徑調整而列為13%。
AI Gateway是介於多個AI模型與應用程式之間、負責轉發請求的服務。Vercel統計通過Gateway的匿名化、彙總資料,token範圍包括輸入、輸出、推理、快取輸入與快取生成token。
支出方面,封閉式模型仍占優勢。Anthropic占整體支出的64%,開放權重模型的支出占比為14%。Vercel表示,Anthropic模型較常用於價格相對較高的複雜任務,顯示token用量較高不代表支出規模也一定較大。
用量與成本出現差異,與模型路由方式有關。低成本模型通常用於大量處理工作,需要較高品質或推理能力的任務則交由前沿模型處理。
因此,開放權重模型用量增加,並不代表所有工作都已由封閉式模型轉移。企業可能依照任務需求,分別採用成本較低的模型與效能較高的模型。
token成本也在下降。Vercel表示,8月平均token價格較前月下跌23.2%,連續3個月走低。
若只比較連續兩個月使用超過1000萬個token的團隊,中位數成本則下降7.6%。由於整體平均值與特定使用團隊的中位數涵蓋不同統計對象,兩者不應視為同一項指標解讀。
Vercel自7月起以API與CSV格式公開AI Gateway排行榜資料,分別提供各模型的token用量與支出。
最新每日資料顯示,開放權重模型占比為78.4%。不過,該數字來自近3個月內特定基準日的資料,不能直接與2026年8月的月度占比56%比較。
這份資料顯示,企業並非將所有用量集中於單一模型,而是依照成本與效能分配模型。先前本刊報導Anthropic在企業AI API支出中占比較高時,也觀察到支出與token用量呈現不同走勢。
開放權重模型是指公開模型權重,讓開發者或企業能在自有環境中執行或修改的模型。封閉式模型則不公開權重與運作方式,通常透過API等形式提供。
這項差異可能成為重視成本與控制權的開發環境選擇模型時的考量。不過,若在自有基礎設施上運行開放權重模型,除了模型使用費,也必須納入GPU、部署工具與維護成本。
上述數據不能擴大解讀為整體AI市場的市占率。由於資料僅統計通過Vercel AI Gateway的特定基礎設施匿名流量,難以代表所有AI服務與企業的使用模式。
留言 0