Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

企業喊卡AI無限暢用 改採分級模型控管成本

顯示代幣使用量與支出數據的會議列印資料 / TokenPost.ai

愈來愈多企業開始替員工的「AI」使用設限,不再毫無限制地開放,而是依任務性質分派不同模型。隨著聊天機器人與程式碼代理工具的「代幣(token)」用量攀升,如何控管成本已取代無上限使用,成為企業經營層面對的新課題。

根據《財富》(Fortune)12日(當地時間)報導,多家企業的資訊長(CIO)與技術長(CTO)正限制部分員工的AI使用量,並調整內部教育訓練體系,引導員工改用體積更小、費用更低的模型。這股動向反映出截至2026年8月12日為止,企業AI營運政策的最新樣貌。

Samsara(IOT)、信諾(Cigna)、百勝集團(Yum Brands)與Compass(COMP)等公司,正逐步跳脫「預設提供高價模型」的做法,改依業務性質分派不同等級的模型。各家企業的具體內部數字與實際運作方式,是透過《財富》的採訪取得。

顧能(Gartner)預估,2026年全球AI支出將達2.52兆美元,較前一年成長44%;其中AI基礎建設投資將增加4010億美元。

所謂AI基礎建設,指的是驅動服務所需的資料中心、運算設備與網路等基礎資源。企業的AI使用量一旦增加,除了模型使用費之外,伺服器、儲存裝置與電力等支出也會同步墊高。

這樣的成本壓力,與本報先前報導的科技巨頭擴大AI投資、現金流承壓的情況相互呼應。隨著AI導入範圍擴大,企業內部也更需要同時檢視實際使用量與生產力改善成效。

成本壓力在需要長「上下文」與反覆呼叫的程式碼代理工具上尤其明顯。顧能6月24日(當地時間)曾預估,到2028年,AI寫程式的成本可能超過一般開發者的年薪。

大型語言模型(LLM)是以代幣為單位處理輸入與輸出。代理型(agentic)任務往往需要經過多階段呼叫與反覆執行,即使是同一項工作,代幣消耗量也可能因此增加。

計費方式從「按席位收費」轉向「按用量收費」,也讓企業更難預估成本。顧能提出的因應方案包括:△代幣用量上限 △模型路由(model routing) △情境工程(context engineering) △使用量監控。

DocuSign(DOCU)表示,旗下逾1000名工程師全數使用AI程式撰寫工具,新程式碼中約75%由AI協助完成,但所有程式碼仍須經人類工程師審查、核准後才會部署。

愈是將AI工具擴大至全組織使用的企業,追蹤使用量、依業務區分效率的需求就愈迫切。本報先前也報導過Meta(META)正著手建立追蹤員工個人AI代幣用量與支出的機制

404 Media於7月2日報導,亞馬遜(AMZN)、Adobe(ADBE)、Atlassian(TEAM)與花旗(Citi)等企業,陸續限制員工存取高價AI模型,或引導改用較便宜的模型。據報導,其中一家企業的AI月支出已突破1500萬美元,較先前成長三倍。

供應商端也在強化成本管理功能。Anthropic於7月2日宣布,為Claude Enterprise新增管理者分析、依模型設定使用權限、以及支出提醒等功能。管理者可依組織、群組與使用者查看各自的支出,並調整預設模型與可用模型範圍。

另據報導,特斯拉(TSLA)自7月起導入「每名員工每週200美元」的AI支出上限。此舉意味著,原本由員工個人自行決定是否使用高價模型的做法,如今已轉為組織層級的預算規範。

評論:從整體動向來看,企業並非在縮減AI導入規模,而是重新分配資源——簡單任務交給較小的模型,複雜的分析與程式撰寫則保留給高效能模型。這種「分級使用」能否真正轉化為生產力提升與成本節省,仍須透過各企業實際的使用量與績效指標逐步驗證。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1