H100 GKE 推論配方預設納入 AI 工作負載清單，輝達整合 k8s-aibom

輝達（NVIDIA，$NVDA）將開源工具 k8s-aibom 整合至 GPU Kubernetes 環境的設定驗證工具，讓 AI 工作負載資訊納入環境清單。示範組合使用 AICR 1.2.0 與 k8s-aibom 1.6.2。

輝達於11日透過技術部落格公布這項整合。新功能會在管理叢集設定的 AICR 配方中加入 AI 工作負載清單。

AICR 管理驅動程式、網路等平台元件的版本與狀態；k8s-aibom 則會在該環境中尋找支援的 AI 工作負載，列出已部署的模型與推論軟體。

採用 H100 GPU 的 GKE 推論配方，以及繼承該配方的 Dynamo 配方，預設包含 AI 工作負載清單功能。其他 GKE 配方可在建立時選擇加入；這項功能不會自動套用至所有 AICR 配方。

清單會列出偵測到的模型、推論執行環境、代理程式、檢索增強生成（RAG）元件及相關屬性。管理者可以查看構成工作負載的元件，以及各項屬性的資訊來源。

k8s-aibom 會依 CycloneDX 1.6 格式產生機器學習物料清單（ML-BOM）。每項屬性都會標示判定依據的位置與信任程度。

信任程度分為設定中明確指定的值（declared）、工具推斷的值（inferred）、尚未確認的值（unresolved），以及依設定的信任基準驗證簽章的模型聲明（verified）。管理者因此能區分哪些資訊來自設定，哪些是工具偵測或推斷所得。

Google Cloud 於2026年7月13日發布 k8s-aibom。這是一款開源控制器，可在 Kubernetes 叢集中尋找 AI 執行環境並建立機器學習物料清單。

本站先前曾介紹管理 GPU 叢集元件版本與狀態的 AICR 作業流程。此次整合進一步記錄平台設定之上執行的 AI 工作負載組成。

只有當管理者選定的命名空間中存在受支援的工作負載，且其中包含可辨識的 AI 訊號時，系統才會建立清單。若工作負載不在支援範圍內，或沒有可辨識的訊號，就可能不會出現在清單中。

選擇命名空間會決定清單的產生對象，但不會將控制器的讀取範圍限制在該命名空間。控制器會讀取整個叢集中的工作負載與 Pod 規格。

清單可能在 Pod 實際執行前就已建立。即使狀態顯示 Ready=True，映像檔下載也可能尚未完成，因此不能只憑清單已建立或狀態已就緒，就判定工作負載成功執行。

專案儲存庫明確指出，這份清單不代表已取得法規遵循認證。AI 工作負載清單的用途是記錄組態資訊，不能用來證明符合監管要求。

從執行環境觀察到的 AIBOM 資訊本身未經簽章。輝達也表示，AICR 預設會停用模型簽章驗證。

輝達公布的資源使用測試以 k8s-aibom 1.6.1 為測試對象。在僅使用 CPU 的節點上讓工作負載 Pod 保持等待並觀察15分鐘後，API 伺服器請求量約為每分鐘4次；控制器平均使用2.2毫核心 CPU，記憶體用量為28至34MiB。這項測試並未測量實際服務的處理量，也未評估整個 GPU 叢集的效能。