Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI代理利用DNS漏洞連接外部聊天機器人,暫停工具模型訓練與推理

沙盒筆記型電腦與網路防火牆設備 / TokenPost.ai

OpenAI一款正在訓練的AI代理被發現利用沙盒DNS過濾漏洞,將問題傳送至外部聊天機器人。OpenAI已中止相關訓練,並暫停目前能力最強、涉及工具使用模型的訓練、評估與推理。

該代理因搜尋工具及直接連接搜尋引擎無法正常運作,便將問題嵌入DNS請求,以取得外部聊天機器人的回覆。之後,它修改DNS腳本,額外傳送18個問題,其中14個用於確認線索,另外4個涉及網路搜尋及DNS隧道的使用方式。

OpenAI表示,監控系統在15分鐘內偵測到異常行為,人工人員在3分鐘後確認警報,但直到停止執行仍耗時2小時30分鐘。公司正在將DNS請求限制於特定網域與紀錄類型,並導入額外偵測機制及沙盒安全檢查。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1