LLM Token Index較高點下跌52%,但GPU租金持續上升,僅憑代幣價格難以斷定人工智慧需求正在放緩。
Silicon Data於24日表示,LLM Token Index已從5月28日的2.07美元跌至9月21日的1美元。該指數是根據API使用者處理100萬個代幣時實際支付的價格,按使用量加權計算。
LLM Token Index並非直接衡量代幣使用量或人工智慧服務總支出的指標,因此難以僅靠價格變化判斷模型使用量或人工智慧產業的盈利能力。
Silicon Data也指出,該指數從今年1月升至5月高點期間上漲67%。若只觀察近期跌勢,市場可能呈現疲弱,但年初以來的價格走勢同時包含上升與下跌。
近期指數下跌被分析為更多工作轉向低價且快速的模型所致。隨著人工智慧研究機構接連推出中階模型,使用者可選擇的模型增加,也對價格造成影響。
代幣價格無法同時反映模型效能與使用目的。Silicon Data表示,僅靠該指數難以區分模型替換與更高效率人工智慧代理人的工作分配。
同樣是價格下跌,若原因是使用量減少,或需求轉向低價模型,其意義並不相同。因此,代幣單價與代幣總使用量需要分開觀察。
另一方面,GPU租賃市場價格正在上升。非超大型雲端業者的H200租金,已從6月平均每小時2.87美元(約3918韓元)升至24日的3.29美元(約4491韓元)。
H200租金在9月19日一度升至每小時3.32美元(約4532韓元)。雖然這是特定時點的價格,但與6月平均值相比,仍可確認租金呈現上升趨勢。
B200租金截至24日為每小時5.76美元(約7862韓元),較同期上升7%,與年初相比則上漲31%。
4月底推出的B300租金此後也上升44%。H200、B200與B300等不同世代GPU租金均走高,顯示代幣單價與運算資源價格未必朝同一方向變動。
Silicon Data的指標反映執行人工智慧模型所需運算資源的價格走勢。代幣價格與GPU租金分別以不同指數統計,可用來區分服務使用單價與運算資源成本。
本報先前曾報導,即使人工智慧模型呼叫需求增加,代幣支出增幅也可能低於使用量增幅。平均單價下降時,即使呼叫量增加,總支出也未必按相同比例成長。
Silicon Data在24日發布的分析中表示,若人工智慧代理人被大規模採用,低價且快速模型處理的代幣占比可能提高。在這種情況下,代幣價格可能下降,但代幣總使用量仍可能大幅增加。
Silicon Data同日分析指出,高附加價值工作仍可能集中由最先進模型處理。
Silicon Data同日表示,隨著人工智慧普及,運算需求可能增加,而非減少。
不過,僅憑GPU租金上升,仍無法確定人工智慧需求的整體規模。此次指標反映特定GPU與代幣價格變化,並未直接統計實際使用量或各企業支出。
留言 0