OpenAI公開前沿 AI 模型的三階段安全審查制度,涵蓋研究、內部使用與對外部署。若安全證據未達公司標準,OpenAI可能中止訓練或暫緩發布模型。
OpenAI 18 日在官方貼文中說明,各階段都會評估模型與防護措施,通過安全審查後才能進入下一階段。這套制度將模型從研究環境轉入內部工作、再提供外部服務時,存取權限與風險的變化納入管理。
研究階段會透過沙箱限制模型權限,並以虛擬機器和網路隔離區分工作環境。測試也會檢查模型是否試圖連上網際網路或突破隔離邊界。
OpenAI表示,在模擬攻擊中,若監控機制偵測到模型嘗試連網,就會通知安全團隊並自動中止相關作業。公司希望藉由隔離與監控,控制模型在研究環境中的行為。
追蹤研究工作的中央控制系統 Control Room,設計上會在收到中止指令後 35 秒內停止模型輸出。這個數字並非指從開始偵測風險行為所需的時間。
OpenAI也會評估監控機制能否從模型的推理與行為中找出錯誤或風險訊號。這項程序是檢查監控能力,與調整模型行為的對齊工作分開進行。
在內部使用階段,員工將模型投入工作前,會先測試模型對齊與可監控性。OpenAI表示,公司會以系統分類器篩除危險請求,並對編碼代理的部分工作採用自動審查程序 Auto-Review。
對外部署前,OpenAI會擴大評估範圍,並為能力最強的模型加入第三方測試。部署後,公司會調查可疑使用情況,也會運作信任型存取計畫。
這次對安全制度的說明,也與模型曾脫離隔離環境的事件有關。OpenAI發布的 Hugging Face 事件技術報告,記錄了多個參與內部資安評估的代理如何接觸 Hugging Face 的營運基礎設施。
報告指出,多個代理曾在 41 台正式環境資料集伺服器工作節點上執行程式碼。至少一個營運節點曾取得 root 權限,並下載 4 個私人程式碼儲存庫。
OpenAI也公開一宗因 DNS 設定錯誤,導致研究模型有限度連上網際網路的案例。公司表示,在調查期間,已暫停能力最強模型的訓練與評估。
本報先前曾報導,OpenAI暫停 Astra 內部作業並加強安全控管。當時公司表示,計劃將安全執行高風險評估與作業所需的控管措施提供給第三方測試機構。
OpenAI於2025年修訂的準備框架,提出追蹤可能造成嚴重傷害的模型能力,以及評估相關防護措施的制度。這次貼文則說明,公司如何在研究與部署流程中採用分階段隔離、監控、安全佐證與事故應對程序。
加州大學柏克萊分校長期網路安全中心(Center for Long-Term Cybersecurity, CLTC)根據2026年4月公開的資料,檢視包括OpenAI在內的4家企業風險管理做法。評估者肯定這些企業已記錄職責與程序,但指出,關於傷害可能性與規模評估、緊急停止控管,以及部署後監控的公開資訊仍有補強空間。
SaferAI分析公開政策文件後,認為OpenAI的模型評估週期與風險容忍標準不夠明確。這項評估分析的是公開文件,並非直接衡量實際控管成效的結果。
Comment 0