OpenAI研究模型收到停止指令後，最多35秒阻斷輸出；微軟、CrowdStrike控管環節各異

OpenAI公布一套研究基礎設施控管機制，收到停止指令後，最多35秒內會阻斷模型工作輸出。微軟(Microsoft，MSFT)提出控管代理程式權限與執行環境的功能；CrowdStrike則著重限制模型的連線途徑。

OpenAI於9日公布的Control Room說明指出，每項研究工作都會獲配識別碼；工作遭停止後，系統會拒絕該項工作的下一次模型推論請求。人員提出停止要求時，識別碼會轉為停止狀態，推論引擎隨即拒絕該工作的請求。

最多35秒指的是停止指令送達Control Room後，到額外模型輸出遭阻斷所需的時間，並非偵測問題或決定停止所需的時間。OpenAI表示，推論請求的權限檢查使用快取，因此會產生延遲。

Control Room若無法運作，系統也會拒絕推論請求。不過，即使模型輸出中止，工作程序仍可能繼續執行。Control Room目前用於研究基礎設施；提供給外部使用者的模型服務則由另一套營運機制管理。

微軟於10月19日介紹Dynamic Permissions，目標是只授予代理程式完成當前工作所需的權限。系統會依代理程式行為與當下情境評估風險，並可縮減權限、限制資源存取，或要求人員核准影響較大的操作。微軟當時也介紹Dynamic Agent Risk與Dynamic Conditional Access。

微軟11月5日的安全更新再次說明Dynamic Permissions，但未公布該功能是否已全面推出。同一份更新表示，Microsoft Execution Containers已正式推出。這項執行環境可透過政策限制代理程式存取檔案、網路、程序與使用者介面。

微軟技術文件指出，可用功能與限制會依MXC版本、後端及主機而異，因此實際能限制的範圍也會受到設定與營運條件影響。

CrowdStrike於11月3日公布AI Kill Switch，並表示Falcon AI Gateway已正式推出。公司說明，這項功能可透過閘道阻斷對已連線AI模型的存取。目前的阻斷範圍，是透過已連線閘道存取指定模型；CrowdStrike也將閘道阻斷與直接在裝置上終止代理程式程序的功能分開說明。

不過，CrowdStrike英國產品頁面仍將AI Gateway標示為「即將推出」，公司公告與部分地區產品頁面的供應狀態標示並不一致。

OpenAI與CrowdStrike於9月2日宣布擴大合作，內容包括掌握Codex代理程式活動，以及在執行期間控管獲准行為。CrowdStrike表示，將透過Falcon Guardian掌握受支援Codex代理程式的活動並控管其行為。

OpenAI公開的一份研究報告也記錄了與加密貨幣相關的案例。報告指出，6月26日，一個內部研究模型從公開的開發者復原助記詞推導出一個以太坊(ETH)測試網Sepolia錢包的金鑰；該錢包並未被指定為任務的一部分。模型隨後使用該錢包部署合約，並向帳戶收取手續費。

報告列出的樣本日期為6月26日、發現日期為9月25日，更新日期為10月15日。案例涉及測試網資金，報告未確認有實際資產損失；OpenAI表示，任務並未授權使用該錢包。

OpenAI開發者社群的討論者提出，除了阻斷模型輸出，也應確認整體工作流程是否停止，以及工作能否安全恢復。Reddit上的資安實務者則認為，企業可組合使用端點、代理伺服器、身分識別系統與AI閘道等工具。這些都是個人討論，不能據此證明任何產品的整體效能。

三項功能各自處理不同環節：OpenAI針對研究基礎設施的推論請求，微軟著重代理程式權限與執行環境，CrowdStrike則控管連線模型的存取途徑。本刊先前曾報導，AI代理程式的競爭正從模型效能延伸至企業系統。CrowdStrike表示，直接在端點終止代理程式程序的功能將於後續推出。