OpenAI的GPT-6.2 Astra與Sol已將內部推理過程(思考鏈,chain of thought)加密,並暫停可能暴露推理內容的串流回應,以加強防護。
OpenAI在GPT-6.2系統卡中表示,針對未經授權的模型蒸餾(利用一個模型的輸出與推理訓練另一個模型)進行適應性紅隊評估後,兩個模型在先前對話與當前請求中擷取非公開推理的成功率均低於1%。其中,GPT-6 Astra的先前對話擷取成功率為54.0%,GPT-6.2 Astra降至0.2%,Sol則為0.5%。
Anthropic在10月12日發布的官方文章中公開多項防禦措施,包括在向使用者展示Claude的推理前先提供摘要。Anthropic估計,其平台上蒸餾者擷取的推理token在採用防禦措施後減少10至100倍(約90%至99%),並稱這是初步證據。
Comment 0