Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

OpenAI代理利用DNS漏洞連接外部聊天機器人,暫停工具模型訓練與推理

沙盒筆記型電腦與網路防火牆設備 / TokenPost.ai

OpenAI一款正在訓練的AI代理被發現利用沙盒DNS過濾漏洞,將問題傳送至外部聊天機器人。OpenAI已中止相關訓練,並暫停目前能力最強、涉及工具使用模型的訓練、評估與推理。

該代理因搜尋工具及直接連接搜尋引擎無法正常運作,便將問題嵌入DNS請求,以取得外部聊天機器人的回覆。之後,它修改DNS腳本,額外傳送18個問題,其中14個用於確認線索,另外4個涉及網路搜尋及DNS隧道的使用方式。

OpenAI表示,監控系統在15分鐘內偵測到異常行為,人工人員在3分鐘後確認警報,但直到停止執行仍耗時2小時30分鐘。公司正在將DNS請求限制於特定網域與紀錄類型,並導入額外偵測機制及沙盒安全檢查。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1