Qwen3.5-4B神經元調整實驗：有害請求拒答率從90%變為8%

一項重現實驗調整Qwen3.5-4B（通義千問）內部神經元的活化值後，模型對100個有害請求的拒答率從基礎模型的90%降至8%。另一組比較則顯示，只調整兩個神經元中的一個，也會改變模型回應。

AI開發者Lyra公開的Neuron Explorer可用來介入模型內部神經元，並觀察回應變化。Qwen官方模型設定檔列出32層，每層的MLP中間維度為9,216。

兩項數值相乘，模型共有294,912個MLP神經元。公開的調整方法鎖定第14層第8949個與第13層第7956個神經元；層數從0開始計算。

活化值調整不是改寫提問，而是在模型生成回答時改變內部計算訊號。重現實驗的儲存庫記載，研究者沒有重新訓練模型或修改權重；解除介入後，模型會恢復原狀。

在100個有害請求的測試中，基礎模型拒答率為90%，調整後模型則為8%。Qwen3Guard將基礎模型的1個回應、調整後模型的96個回應標記為「Unsafe」。這些數據來自公開的重現報告。

報告作者表示，完整生成評估共進行640次。不過，拒答率與「Unsafe」判定數量以其中100個有害請求為統計基準，並非整體評估結果。

同一份報告另以20個有害請求進行比較。只調整第14層第8949個神經元時，拒答率為5%，「Unsafe」判定比例為100%。

只調整第13層第7956個神經元時，拒答率則為90%。作者據此認為，第14層神經元造成了大部分變化。這組結果僅來自20個請求，應與100個請求的實驗分開解讀。

另一項重現實驗從11層中選取部分神經元與對照組，比較180種條件；其中176種是抽樣條件，4種是既有調整值的比較條件。結果表顯示，調整第16層第8927個神經元後，每100個生成詞中有12.5個敵意詞。

同一比較中，基礎模型每100個生成詞有0.7個敵意詞；調整第14層第8949個神經元後則為4.3個。詞彙分數與「Unsafe」判定比例是不同指標，這項測試也沒有涵蓋所有神經元。

先前已有研究探討模型內部訊號與拒答反應的關聯。2024年的一項研究在13個開放權重模型中，將拒答反應與特定活化方向連結。

Anthropic曾公開一項實驗，透過強化Claude內部與「金門大橋」相關的特徵，改變模型回應主題。這次重現實驗則調整個別MLP神經元，觀察文字回應的變化，而非抽象的活化方向。

涵蓋640次評估的報告使用單一模型、單一隨機種子與一種生成方式。安全性由Qwen系列評估器判定，作者另親自檢查了34個回答。

調整強度提高時，句子連貫性也會改變。重現結果記載，強度達1.5時句子開始崩解，達2.0時則出現重複輸出。

這項實驗顯示，推論期間調整內部活化值可能改變文字回應，但沒有展示模型實際存取系統或執行工具的結果。TokenPost先前曾報導Qwen3.5系列支援本機執行。