OpenAI執行長山姆·奧特曼(Sam Altman)表示,AI Token數量不適合作為衡量企業從人工智慧中獲得多少價值的指標。
在《Cheeky Pint》訪談中,主持人、Stripe共同創辦人約翰·科里森(John Collison)指出,從商業價值來看,Token是「虛假的」。奧特曼回應說,Token「在某種意義上確實存在,但不是好的衡量單位」。
AI Token是模型讀取輸入內容並生成回答時處理的資料單位,與加密貨幣中的代幣不同。Token數量可用來計算服務用量與成本,但奧特曼表示,單看用量難以了解企業實際取得的成果;即使使用相同數量的Token,工作內容和產出也可能不同。
他認為,改按工作成果收費也難以成為通用方案,因為不同工作的目標和結果各異,難以用同一單位計價。
奧特曼透露,OpenAI曾幾乎決定從下一代模型開始取消逐Token計費,改為使用者提出需求後再報價,但客戶反應非常負面,因此沒有推行。
他說,客戶希望知道帳單金額如何計算。奧特曼曾詢問部分客戶,若能獲得相同結果,是否願意按固定Token數付費;客戶表示,即使Token數被高估,也更偏好知道費用所依據的用量。
奧特曼補充,使用者可能更喜歡像CPU使用時間一樣,清楚知道自己是為哪種用量付費,而不是只收到結果後才得知帳單。即使費用較高,他們仍希望了解支出的計算依據。
他也表示,目前的收費方式不易理解。使用者除了要比較小型與大型模型的Token單價,還得考量推理過程的長短,增加了不必要的計算負擔。
科里森以半導體製程的奈米標示為例,詢問是否會創造「智慧換算Token」之類的新單位。奧特曼指出,奈米數字與實際製程尺寸的關聯不大,因此不想再創造類似單位。
談到OpenAI內部的運算資源分配,奧特曼表示,公司不會以用量本身衡量員工績效。員工可自行安排資源使用,但不會只因為用得多就獲得獎勵。
他說,OpenAI沒有Token用量排行榜;用量排名高,甚至可能對升遷略為不利。不過,如果員工能展現自己完成了重要工作,公司仍會肯定其使用大量資源的情況。
本刊此前曾報導,奧特曼在同一場訪談中估算證明納維-斯托克斯方程式的成本。這次他談到,Token雖可計算用量,卻難以衡量工作成果。
留言 0