半年暴增14倍！OpenRouter AI代理token飆破7.3兆

AI推理平台OpenRouter的「AI代理」（agentic AI）token使用量出現爆發性成長。截至8月10日的7天移動平均值顯示，相關使用量達到7兆3000億個token，相較2月6日的約5000億個，半年內暴增14倍。

根據CryptoBriefing的報導，於10日（當地時間）指出，同一期間一般使用者的token使用量則成長2.8倍，來到1兆4000億個。值得留意的是，7兆3000億個這項數據出自CryptoBriefing的報導，OpenRouter官方部落格與數據頁面目前並未公開同一時間點的絕對數值。

所謂「AI代理」型任務，並非讓AI單次回答就結束，而是為了達成特定目標，讓AI連續執行搜尋、寫程式、除錯與呼叫外部工具等多重步驟。由於作業流程較長、模型呼叫次數頻繁，token消耗速度自然比一般對話式使用快上許多。

OpenRouter於6月30日在官方部落格表示，AI代理型任務自今年初開始加速成長，並在2月1日前後超越一般使用者的token使用量。根據該平台分析，AI代理型任務每次請求消耗的token量，約為一般使用者的15倍。

OpenRouter區分「AI代理」與「一般使用者」流量的方式，是根據每組API金鑰的7項訊號進行加權合計，屬於平台內部的分類系統。由於分類標準可能隨時調整，這次公布的數據仍須以OpenRouter自家的分類邏輯為前提來解讀。

OpenRouter是一個可在單一應用程式介面（API）中串接多款AI模型、並將請求導向合適模型的推理平台。它同時彙整AI模型完成訓練後，在處理使用者請求與生成回覆過程中所產生的使用量與費用。

整個平台的規模也快速擴張。OpenRouter於6月1日公開，平台每月路由的token量已達100兆個。由於使用者能在同一介面呼叫多款模型，OpenRouter的統計數據也被視為觀察AI實際使用情形與模型選擇趨勢的重要參考資料。

本刊此前曾報導，有研究利用OpenRouter的實際使用數據，分析美國企業股票報酬率的差異。不過，token使用量僅能反映AI應用程度，並不能直接等同於企業營收或股價走勢。

分析認為，AI代理需求擴大的背後，與低成本「開放權重模型」（open-weight model）的普及也有關。根據OpenRouter針對2025年使用量的分析，開放權重模型約占整體token使用量的三分之一。

所謂開放權重模型，是指公開已訓練完成之參數，讓使用者可自行部署或依需求調整的AI模型。這類模型通常比封閉式高階模型成本更低，更容易大量呼叫，因此在重複性作業較多的AI代理服務中被廣泛採用。

OpenRouter的資料顯示，中國開源模型的週使用率占比，已從2024年底的1.2%，在2025年部分週別一度攀升至近30%。本刊此前也曾報導，開放權重模型使用量達到整體token使用量約三分之一的趨勢。

不過，token占比與實際支出占比仍須分開來看。低價模型即使處理大量token，因單價較低，實際支出占比可能相對有限。這也是為什麼token使用量成長，不能簡單解讀為營收成長或市場主導力擴大的原因。

隨著AI代理使用量增加，成本管理也成為平台的重要課題。OpenRouter於7月24日推出名為「Classifiers」的新功能，可自動依部門、任務類型、代理複雜度與成本中心等項目，對請求進行分類。

OpenRouter說明，透過這項功能可追蹤AI代理的作業內容、模型選擇與成本流向。這項調整的目的，是在AI代理連續呼叫多款模型與工具的過程中，釐清成本究竟發生在哪個環節。

開發者社群也提出了成本與快取相關的問題。微軟（Microsoft，MSFT）旗下Visual Studio Code（VS Code）的GitHub議題（issue）頁面上，有開發者指出，透過OpenRouter自有API金鑰連接Claude模型時，提示詞快取（prompt caching）功能無法正常運作，導致代理模式（agent mode）的使用成本增加。AI代理型應用的普及，似乎已不只帶動token使用量成長，也讓路由、快取與計費架構的改善需求逐漸浮現。