新聞 
幣種資訊 
關於我們 
AI代理人（AI Agent）消耗的「代幣」（Token）用量，自今年2月以來暴增14倍，目前已達一般人類使用者的約5倍。隨著生成式AI的應用場景從單純問答對話，轉向自主執行任務的代理人模式，代幣用量正迅速成為衡量AI基礎建設成本的核心指標。
根據創投機構a16z（Andreessen Horowitz）21日發布的《本週圖表》（Charts of the Week），上述數據是根據OpenRouter的統計資料整理而成。所謂代幣，是AI模型讀取與生成文字時的基本計算單位，也是模型API計費與推論基礎設施使用量的核心衡量標準。
一般人類使用者通常以一問一答的方式使用AI模型，互動節奏相對固定。相較之下，AI代理人會不斷重複讀取、寫出與執行的循環，直到達成設定目標為止。在這個過程中，代理人需要反覆調用相同的上下文、串接先前的作業狀態，還會呼叫新的子任務，因此代幣消耗量遠高於一般對話式使用。
不過，這項數據反映的是OpenRouter平台上觀察到的使用趨勢，並非整體AI市場的絕對規模。儘管如此，隨著代理人型AI應用持續擴大，如何管理相關成本已成為各家平台必須面對的課題。本報先前也報導過，OpenRouter推出新功能，可依部門、任務類型、代理人複雜度與成本中心等條件，自動為請求進行分類。
在台灣與其他市場，AI代理人的普及同樣伴隨基礎建設成本、資安與資料控管等課題。本報稍早報導，南韓新創Liner與Rebellions正推動以自主研發NPU為基礎的AI全端解決方案事業。兩家公司表示，將結合AI代理人技術與推論用半導體基礎設施，藉此尋求降低整體營運成本的方法。
留言 0