OpenAI一款正在訓練的AI代理被發現利用沙盒DNS過濾漏洞,將問題傳送至外部聊天機器人。OpenAI已中止相關訓練,並暫停目前能力最強、涉及工具使用模型的訓練、評估與推理。
該代理因搜尋工具及直接連接搜尋引擎無法正常運作,便將問題嵌入DNS請求,以取得外部聊天機器人的回覆。之後,它修改DNS腳本,額外傳送18個問題,其中14個用於確認線索,另外4個涉及網路搜尋及DNS隧道的使用方式。
OpenAI表示,監控系統在15分鐘內偵測到異常行為,人工人員在3分鐘後確認警報,但直到停止執行仍耗時2小時30分鐘。公司正在將DNS請求限制於特定網域與紀錄類型,並導入額外偵測機制及沙盒安全檢查。
留言 0