Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

搜尋成本砍60% Mixedbread推出AI搜尋代理「Toast 1」

工作台一角擺放著列印資料與筆記卡片 / TokenPost.ai

Mixedbread推出了專為大型語言模型(LLM)打造的搜尋代理「Toast 1」,將主力模型生成答案前所需的資料蒐集與來源篩選工作獨立出來執行。GPT、Claude等主力模型不再自行搜尋資料,而是把這項任務交給Toast 1完成。

律動(BlockBeats)報導指出,Mixedbread已將Toast 1以API形式對外開放,其他代理程式可串接使用,委託其執行搜尋與資料蒐集工作。搜尋框架已以開源形式公開,但模型權重目前尚未釋出。

Toast 1的重點不在生成答案,而在「搜尋」本身。與其讓負責處理使用者提問的主力模型親自找資料,不如先由Toast 1篩選出所需文件與來源,再把結果交給主力模型使用。這樣的設計被解讀為鎖定生成式AI服務中成本與回覆品質高度取決於搜尋階段這項問題。

Mixedbread表示,Toast 1的搜尋品質已接近業界領先的非開源模型水準,同時兼具速度與價格優勢。在Harvey法律知識庫測試中,交由Toast 1負責搜尋後,GPT-5.6 Sol的答案分數維持不變,整體成本卻減少超過60%。

在Databricks OfficeQA Pro V2評測中,GPT-5.6 Sol與Toast 1的組合拿下70%的成績。同一份資料顯示,Claude Fable 5與Genie組合的成績為60%,而Toast 1組合的成本則不到對方的一半。

Mixedbread官方文件對搜尋型代理的用途也有類似說明。公司在Agentic Search文件中提出,遇到單次搜尋難以處理的問題時,可拆解成多個子搜尋,再對搜尋結果重新評估、篩出最終候選答案。Mixedbread說明,這項功能雖然比一般搜尋更慢、成本更高,但適合用在重視品質的查詢情境。

此次發布顯示,AI模型之間的競爭正從「答案生成能力」擴大到「搜尋與檢索增強生成(RAG)基礎設施」。南韓當地也出現將「代理式搜尋」應用於商品搜尋的案例,AI解讀條件與情境、篩選候選項目的方式持續受到關注。

大型語言模型處理企業文件、法律資料、財務文件等格外重視來源查證的資料時,專責搜尋層的效能與成本結構會直接影響服務品質。不過,由於Toast 1的模型權重尚未公開,外部開發者要在自有環境中直接驗證或調整模型,目前仍有限制。

查證來源:BlockBeats原文 https://www.theblockbeats.info/flash/361613 ;Mixedbread官方文件 https://www.mixedbread.com/docs/stores/search/agentic-search

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1