Anyscale 以私有預覽形式推出 KubeRay Connect,為既有 KubeRay 叢集新增工作觀測與提交功能。營運人員可沿用原有的 KubeRay 設定與工具,查看 Ray 工作狀態。
Anyscale 於 2026 年 8 月 25 日表示,Connect 可連接既有 KubeRay 叢集。它不會直接建立或管理執行工作的 Pod,而是在由 KubeRay 管理叢集的架構中加入 Anyscale 功能。公司文件也說明,Connect 不會直接建立或管理 Ray 叢集。
發布時,提供工作日誌與指標的 Observe,以及支援提交工作和追蹤狀態的 Orchestrate,均處於私有預覽階段;用於調整效能與成本的 Optimize 則標示為即將推出。私有預覽須申請才能使用。
Connect 會在既有 KubeRay 設定中加入觀測用 sidecar。其組成包括:修改 KubeRay 自訂資源(CR)並同步狀態的 Connector、以 OpenTelemetry Collector 為基礎收集日誌與指標的 Cluster Telemetry Gateway,以及向控制台提供觀測資料的 Observability API。Anyscale 在發布時表示,Connector 以單一 Pod 運作。
Ray 官方文件指出,日誌預設儲存在各 Pod 的 /tmp/ray/session_*/logs,Ray 本身不提供日誌保留服務。若要在 Pod 或節點意外終止後調查原因,仍須另行配置日誌收集與保存機制。
Anyscale 同日也宣布 GPU Health Observability 進入私有預覽。公司表示,這項功能會將 GPU 的 XID、ECC 錯誤,以及時脈與記憶體狀態,與 Ray 工作及節點資訊連結呈現;但未提供實際營運環境中故障診斷時間或可用性改善幅度。
Ray 的 KubeRay 自動擴縮器會依據工作與 Actor 的資源需求調整 Ray Pod 數量,調整依據不同於一般以 CPU、記憶體使用率為基礎的 Kubernetes HPA。Ray 文件建議,GPU 與記憶體的資源請求值和限制值應盡可能設為相同。
在預設設定下,Head 節點是單一故障點。Ray 提供設定方式,讓叢集自動擴縮器整合節點時不會驅逐 Head Pod;但文件也明確指出,這項設定無法避免節點故障。
Ray 文件說明,若已配置 GCS 容錯功能,Head 節點復原期間,Serve 應用程式仍可處理工作。不過,復原期間對 Actor 與 Worker 故障的處理,以及叢集更新,可能會受到限制。
留言 0