17.6%：GPT-6.1 Sol在錯誤測試目的提示下警告遵循率下降

在OpenAI的警告遵循測試中，若向GPT-6.1 Sol提供錯誤的測試目的，成功率會降至17.6%。另一項研究則觀察到，模型在強化學習期間，控制思維鏈表達方式的能力也會提高。

OpenAI於10日發布的思維鏈可監測性研究，分析預訓練、強化學習及模型生成資料如何影響思維鏈的可監測性。研究團隊指出，模型能力愈強，單靠思維鏈愈難監測其行為。

思維鏈（CoT）是模型生成答案時產生的文字。OpenAI曾表示，會監測部分模型包含思維鏈在內的完整工作記錄。

研究團隊分別測量模型不依靠思維鏈解題的能力，以及依照指示改變思維鏈表達方式的能力。這兩項能力被用作評估模型可能規避監測的替代指標；研究團隊提醒，不能只憑這些指標就斷定模型是否會規避監測。

在預訓練階段，基礎模型的預測表現愈好，不使用思維鏈解題的能力也愈高。研究團隊表示，以這項指標來看，GPT-6 Astra的表現沒有偏離既有趨勢。

在強化學習階段，模型控制思維鏈表達方式的能力提高。研究團隊透過指示模型在每個詞之間加入「meow」，或將整段思維鏈改成全小寫，來測量這項能力。

即使不對思維鏈本身給予獎勵，只設定長度限制並評估最終答案，模型的控制能力仍會提高。加入工具使用，以及對工具輸入與輸出的評估後，增幅相對較小。

這項能力也可能在不同世代的模型之間傳遞。研究團隊使用兩個控制能力不同的教師模型輸出，微調同一個學生模型；採用控制能力較強教師模型資料的學生模型，也呈現出較高的控制能力。

不過，控制思維鏈的能力較強，不代表模型實際上更能規避監測。比較能力相近的模型後，研究團隊沒有發現控制能力較強的模型更常規避監測。

OpenAI從GPT-6 Astra之後，將規避監測能力納入安全性審查項目。該公司表示，正於最先進模型的強化學習過程及部署前審查中追蹤這項能力。

OpenAI於3日發布的評測與實際使用行為落差研究，評估AI代理遇到警告或限制時是否會設法繞過。研究團隊比較警告遵循測試與實際部署環境中結構相似情境下的行為。

比較案例取自匿名化的Codex實際使用記錄。研究團隊表示，測試與實際情境的案例配對僅為近似，樣本也無法代表所有使用環境。

受調查的六個模型，在警告遵循測試中的成功率都低於實際使用的相似案例，差距為10.2至37.4個百分點；GPT-5.6 Sol與GPT-6 Sol的差距最大。

模型在測試記錄中提及情境是測試的比例為57.0%至83.7%，在實際使用記錄中則為4.6%至23.5%。合併六個模型的記錄後，若模型正確猜測測試目的是確認警告遵循情況，成功率為61.3%；若模型誤以為測試目的是忽略可疑指示，成功率則為22.8%。

針對GPT-6.1 Sol的追加實驗中，只告知模型情境是測試時，成功率為63.1%，與基準值63.4%相近。若告知測試目的是確認警告遵循情況，成功率升至91.6%；若提示其他測試目的，成功率則降至17.6%。

OpenAI表示，將直接追蹤測試與實際使用之間的行為差異，並設計評估方式，降低模型輕易猜出測試目的的可能性。