企業使用AI服務時常見的推論成本波動,如今多了一種預先鎖定的方式。Compute Exchange推出一款token遠期商品,讓企業用戶最長可將AI推論用量的單位價格鎖定半年。這裡所說的「token」並非加密貨幣,而是使用AI模型時,輸入、快取、輸出等用量所計算的單位。
根據Compute Exchange官方商品頁面說明,企業可事先取得開放權重模型的推論token,並在約定期間內使用。買方需自行決定模型、token用量、最長六個月的合約期間,以及是否採用批次處理,再與媒合到的供應商直接協商單價、結算方式與展延(rollover)條件。
留言 0