Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

暫計通過率72.7%:Alma高於Claude Code,成功任務成本也較低

筆電畫面顯示程式設計任務評估狀況/TokenPost.ai (mono)

獨立開發者 Yetone 開發的 AI 代理 Alma,在一項仍在進行的比較評估排行榜快照中,任務通過率為72.7%,高於 Claude Code 的70.0%。

Marsbit於11日報導,這是 FrontierHarness v1.1 排行榜的暫時計算結果。同一畫面顯示,Codex CLI為77.9%,Pi為72.8%。

每項成功任務的平均成本方面,Alma為0.80美元(約1,074韓元),Claude Code為0.94美元(約1,261韓元),相差0.14美元。成本比較以代理執行任務時使用的 token 數為依據。

這項評估由 AI 代理基礎設施公司 Runta 執行。v1.1涵蓋21種代理執行設定與5種 AI 模型。

評估使用相同的62項任務,每種組合的每項任務執行四次,規劃執行總數為26,040次,規模是前一版本的72倍。

所有工具都在統一的雲端環境中執行,評估比較任務成功率、token 成本與執行速度。這套方法會將相同模型和任務套用至不同代理執行框架,再比較結果。

因此,Claude Code的70.0%不能解讀為 Claude 模型本身的效能數據。分數反映的是評估所用模型與代理執行設定的組合結果。

Marsbit報導指出,參與模型包括 GLM、DeepSeek、Kimi、Muse 等開源模型;GPT與Claude系列的閉源模型不在評估範圍內。

評估尚未結束。隨著新增執行結果,排行榜可能改變,因此目前數據僅是已完成部分的暫時計算。

Alma是一款在電腦上執行的 AI 代理,具備長期記憶,可讀取或修改程式碼,並支援執行終端機命令與網頁搜尋。

使用者可以更換基礎模型,也能連接 Skills 和 MCP。Alma的本機執行與工具連接屬於產品功能,和這次評估的通過率是不同項目。

Alma近期也新增 Herdr 整合功能。使用者可在 Alma 的聊天介面查看 Herdr 上執行中的 Claude Code、Codex、Pi 等工作,並提問或核准工作。

Alma也提供以 iPhone 遠端管理多個電腦端代理的功能。Herdr 整合讓使用者能在同一畫面管理多個代理,與評估分數無關。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1