Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

每年5萬至10萬美元:Garry Tan估算AI代理人最大效能運作成本

Garry Tan(AI插畫)/TokenPost.ai

AI代理人若以最大效能運作,每年成本估計可能達5萬至10萬美元。這項估算以投入大量模型token與運算資源為前提。

Y Combinator執行長Garry Tan在安德里森霍羅維茨(Andreessen Horowitz)於8月12日公開的Podcast中表示:「以最大效能使用代理人,每年可能需要5萬至10萬美元。」這是對最高效能運作成本的估算,並非實際支出金額。

這段發言並未公開Tan個人實際的年度帳單或支出明細。每年個人花費20萬美元的說法,也無法在該集Podcast的原始發言中確認。

此處所說的token並非加密貨幣,而是語言模型處理輸入與輸出的單位。代理人執行任務時,若多次呼叫模型或重新生成回答,token用量也可能改變。

因此,代理人費用不只取決於單次模型呼叫的價格,也會隨任務所需的呼叫次數與重試情況而累積。

Tan公開的開源工具gstack,會為AI程式設計工具安排規劃、設計檢視、程式碼審查與品質檢查等角色。公開儲存庫介紹了將開發流程拆分成不同工作處理的架構。

不過,僅憑儲存庫中的說明,無法獨立證明gstack能提升多少生產力或降低多少成本。工具負責的工作與實際成果仍須分開看待。

3月30日,Reddit的r/ClaudeAI版上與gstack相關的貼文及留言,有使用者認為角色指引與瀏覽器測試很實用,也有人表示難以單靠程式碼行數評估生產力。這些都只是個別使用者的看法。

對於可能增加成本的做法,也有人提出提醒。微軟(Microsoft,$MSFT)工程師Tisha Chawla與Susheem Koul於8月13日在公司技術部落格指出,代理人為改善結果而反覆重試時,單項任務的成本可能超過其價值。

兩人建議,除了追蹤每月總支出,也要追蹤並控管每次執行的成本,以掌握多次呼叫累積的費用。

TokenPost先前曾報導Trueforge比較AI代理人執行成本的案例。該比較以特定工具、系統提示與工作階段條件為基礎,衡量標準與Tan提出的年度成本估算不同。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1