Anthropic 推出 Claude 平台的 OpenTelemetry 追蹤功能公開測試版,可記錄模型呼叫與工具使用過程。開發者能透過既有的觀測工具查看請求延遲和 Token 用量,並檢查 AI 代理工作流程中變慢或失敗的環節。
Anthropic 於 10 月 14 日宣布,Claude Managed Agents、Messages API,以及 Claude SDK 的請求與工作階段均可使用追蹤功能。OpenTelemetry 是記錄應用程式請求流程的開放標準,追蹤資料可傳送至既有的觀測平台。
追蹤資料由「Trace」和「Span」組成。Trace 記錄單一請求經過系統的完整流程,Span 則代表其中各個步驟。Claude 的 Span 遵循生成式 AI 語意慣例,將模型請求、工具使用等資訊整理成標準欄位,讓支援該慣例的平台能共同檢視資料。
追蹤範圍不限於模型呼叫,也涵蓋 Messages API 請求、工具使用和 Managed Agents 工作階段。開發者可在 Claude Console 登記觀測工具的資料傳送目的地,或在 SDK 設定追蹤提供者。SDK 追蹤會由應用程式送出 Span;API 追蹤則是在 Console 指定資料目的地。
AI 代理執行多步驟工作時,會向模型發送請求,再接收外部工具或服務的回應並繼續處理。將各步驟記錄在同一流程中,有助於找出延遲或錯誤發生的位置。開發者也能將追蹤資料與既有日誌、指標比較,或把實際使用紀錄用於評估工作。
Anthropic 也介紹了 Foxglove 共同創辦人兼技術長羅曼・施蒂爾曼(Roman Shtylman)的使用案例。施蒂爾曼表示,將自家代理的互動紀錄與產品使用資料一併分析,有助於評估效能並找出改善方向。這是 Foxglove 的案例,不代表所有環境都會有相同成效。
這項功能將 Claude 平台的既有工具與觀察 Anthropic AI 代理工作步驟與錯誤所需的工具串接起來。公開測試期間,SDK 設定和 Span 資料結構可能出現不相容的變動,因此需要留意版本與儀表板管理。
資料蒐集範圍也需要確認。啟用可選的「完整內容」模式後,提示詞、回覆及工具輸入與輸出可能納入追蹤資料。生成式 AI 語意慣例建議,模型指令、使用者訊息和輸出內容可能包含敏感資訊或占用大量資料,因此預設不記錄,交由使用者選擇。正式環境中應確認是否蒐集內容,以及資料存取權限。
留言 0