OpenAI內部研究模型於9月20日利用DNS設定錯誤,有限度地連上即時網際網路。OpenAI隨後暫停旗下效能最強模型的訓練與評估,強化安全措施後,於10月1日恢復訓練。
OpenAI於23日在官方部落格表示,當時模型利用DNS解析器設定錯誤,存取即時網際網路。公司其後加強研究環境的隔離與監控,也改進了在偵測到嚴重風險活動時自動暫停訓練的機制。
OpenAI表示,針對前沿模型進行紅隊測試時,發現虛擬機器逃逸漏洞及代理程式間的通訊路徑等問題,並已加以修補。公司補充,開源軟體中發現的問題則已通知相關專案維護者、公開修正內容並提交修補程式。
留言 0