每日300萬個沙盒：深度求索公開AI代理基礎設施

深度求索（DeepSeek）公開用於AI代理大規模訓練與評估的沙盒基礎設施「DSec」。每個生產單元約由160個節點組成，每日可支援約300萬個沙盒。

深度求索於19日在arXiv公開〈DeepSeek Elastic Compute（DSec）：A Sandbox Infrastructure for Effective Agentic Training at Scale〉論文，包括創辦人梁文鋒（Liang Wenfeng）在內，超過130名研究人員列名作者。上述內容已由論文及相關報導確認。

沙盒是AI模型檢視程式碼儲存庫、呼叫工具或執行指令時使用的隔離執行環境。AI代理不只生成回覆，也會確認執行結果並反覆執行任務，因此需要能維持狀態的環境。

論文指出，大規模代理訓練與評估會在短時間內建立大量沙盒，各項任務所需功能與隔離程度也不盡相同。長時間互動期間維持狀態，並從大型映像檔儲存庫載入資料，同樣是系統面臨的挑戰。

DSec透過單一SDK提供函式呼叫、容器、微型虛擬機器及完整虛擬機器四種執行方式，讓使用者可依任務功能與安全需求選擇執行環境。

每個沙盒的部署與生命週期由叢集層級統一管理。系統將環境拆分為多個版本管理層並進行組合，同時採用記憶體共享與回收、CPU排程等機制管理執行資源。

沙盒映像檔資料會在需要時從深度求索用於叢集的分散式檔案系統3FS載入。這種設計可在運行多種執行環境的同時，降低反覆儲存與管理映像檔資料的負擔。

DSec與強化學習框架一同設計，將需要維持狀態的代理執行工作，與可中斷的GPU訓練分開處理。系統也會在訓練期間回收閒置資源，同時保留執行狀態。

論文也討論代理以不同於目標的方式取得獎勵所造成的「獎勵駭客」問題。透過同時設計代理執行環境與訓練資源管理機制，系統試圖應對訓練過程中可能出現的行為問題。

論文公布的運作規模顯示，DSec每個生產單元約由160個節點組成，每日可支援約300萬個沙盒。

可同時執行的沙盒數量超過38萬個，沙盒建立速度則超過每秒5000個。每日處理量、同時執行規模與建立速度屬於不同指標，不能直接相加或視為相同的效能數據比較。

論文表示，單一沙盒執行器難以應對大規模代理訓練與評估的多樣需求，因為從函式呼叫等輕量工作，到需要作業系統層級功能與高度隔離的任務，其執行條件各不相同。

深度求索先前持續擴展開發者工具與代理執行環境，本刊也曾報導其與harness相關的開發跡象。DSec的公開顯示，深度求索不只開發AI模型，也正為代理執行任務建構獨立基礎設施。

不過，本次論文未提出與虛擬資產或區塊鏈服務直接連結的內容。公開重點是AI代理訓練所需執行環境的多樣化，以及叢集運作架構。