Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

GPT-6.2加密推理過程,OpenAI強化模型蒸餾防護

AI安全測試中覆蓋筆電的安全遮蔽板/TokenPost.ai (mono)

OpenAI的GPT-6.2 Astra與Sol已將內部推理過程(思考鏈,chain of thought)加密,並暫停可能暴露推理內容的串流回應,以加強防護。

OpenAI在GPT-6.2系統卡中表示,針對未經授權的模型蒸餾(利用一個模型的輸出與推理訓練另一個模型)進行適應性紅隊評估後,兩個模型在先前對話與當前請求中擷取非公開推理的成功率均低於1%。其中,GPT-6 Astra的先前對話擷取成功率為54.0%,GPT-6.2 Astra降至0.2%,Sol則為0.5%。

Anthropic在10月12日發布的官方文章中公開多項防禦措施,包括在向使用者展示Claude的推理前先提供摘要。Anthropic估計,其平台上蒸餾者擷取的推理token在採用防禦措施後減少10至100倍(約90%至99%),並稱這是初步證據。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1