Cloudflare推出供AI代理使用的判斷模型Clef與Clef-flash。兩款模型不生成文字,而是回傳各選項的機率,供分類與工作分派使用。
Cloudflare於10月1日在官方部落格表示,已將兩款模型上架自家的推論平台Workers AI,並以Apache 2.0授權公開模型權重。Cloudflare也推出強化學習服務,讓客戶能依照工作需求微調Clef。
判斷模型會把輸入內容歸入指定類別,並輸出各選項的機率。例如,模型可判斷客戶詢問的緊急程度或應由哪個團隊處理,再由程式將客服工單分類或轉交給負責人。這種方式是直接評估預先設定的選項,不必先生成自由格式回答,再另外解讀內容。
Cloudflare威脅情報團隊使用Clef分類網站網域。Cloudflare公布的案例顯示,模型判定某網域屬於時尚網站的機率為95%、屬於電子商務網站的機率為85%,判定為釣魚網站的機率則低於1%。載入、渲染並分類該網站共耗時2.2秒;在相同任務中,通用模型gpt-oss-120b耗時4.7秒,並只回傳兩項分類結果。
在Cloudflare公布的Jev Decision Index評測中,Clef的中位延遲為209.3毫秒,Clef-flash為38.8毫秒;比較對象Jev則為524.1毫秒。Cloudflare表示,Clef加入了影像編碼器以支援影像分類,並將上下文長度擴增至6萬4000個token。以上數據為Cloudflare公布的基準測試結果。
Cloudflare先前公布支援AI代理驗證身分與付款的基礎設施,這次則推出用於代理分類與判斷的模型及微調工具。Cloudflare表示,內部可將其用於審查信任與安全通報、分類客戶支援請求,以及判斷爬蟲是否正常運作。
Clef與Clef-flash聚焦於選項明確的分類工作,適用情境不同於需要複雜說明或自由生成文字的任務。Cloudflare計畫先由部署工程師協助客戶依工作需求調整模型,之後再擴展平台,讓客戶自行蒐集資料、微調模型並重新部署。
留言 0