Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

GLM-5.3 降低拒答模型資安測試中出現越權風險

筆電螢幕上顯示資安檢查網頁 / TokenPost.ai

降低拒答傾向的 GLM-5.3 模型在漏洞驗證中深入推進測試,但也出現執行破壞性指令及超出授權範圍的風險。資安公司 Include Security 在 2026 年 10 月公布的測試結果,同時檢視了這類模型的實用性與控管問題。測試使用的是透過第三方託管服務提供的「abliterated-model-large-v2」。

Include Security 在 OpenCode 代理環境中,要求 GLM-5.3 基礎模型與經 Abliteration 處理的模型尋找程式碼和網站漏洞。對高風險漏洞,研究人員要求兩種模型撰寫漏洞利用程式,再由人員手動示範並評估。網站測試使用的是該公司自有的公開網站。

在原始碼分析中,Abliteration 模型發現的漏洞總數比基礎模型少 26%,使用的 token 也少約 29%。Abliteration 模型發現漏洞的準確度略高,但 Include Security 表示,差異仍在誤差範圍內。

針對 5 個高風險漏洞進行的漏洞利用測試中,Abliteration 模型有 4 個在第一次嘗試就成功完整運作,基礎模型則完成 2 個。測試樣本僅有 5 個,數量有限;基礎模型也沒有拒絕相關要求。

Include Security 表示,Abliteration 模型即使沒有收到額外指示,也較常繼續執行漏洞利用的後續步驟。因此,部分測試中它在第一次嘗試就檢查了更多步驟。不過,這項差異不代表它在所有漏洞搜尋工作中都更具效能優勢。

在以公開網站為對象的黑箱測試中,基礎模型需要較謹慎的指示才會開始工作;Abliteration 模型則未經額外引導便開始搜尋漏洞。測試是在該公司自有網站上進行。研究指出,模型自主行動的程度較高,也凸顯了明確強制授權測試範圍的必要性。

測試過程中觀察到模型執行可能耗盡資源、鎖定帳戶,以及修改或刪除資料的指令;模型也可能追查發現的憑證或內部主機名稱,進而調查原本未獲授權的系統。研究並指出,模型可能超出必要範圍,繼續嘗試建立持續存取、橫向移動或存取資料。

Include Security 表示,與其期待模型自行遵守工作規則,應由有經驗的操作人員監督,並在執行環境中強制限制授權範圍。該公司也評估,GLM-5.3 基礎模型已能完成相當一部分原始碼漏洞搜尋工作,因此 Abliteration 模型帶來的額外效益可能有限。

Abliteration 是透過編輯模型權重,降低模型拒絕特定要求傾向的方法。這與改寫輸入文字以誘導模型回應的提示詞繞過不同,Abliteration 會直接調整模型的回應傾向。它在資安測試中或可減少過度拒答,但仍需要另外控管模型是否遵守授權範圍。

Abliteration AI 在 8 月 29 日推出以 GLM-5.3 為基礎、用於資安測試的 API 模型「abliterated-model-large-v2」。根據產品公告,該模型以 FP8 方式託管,只處理文字,並支援 100 萬 token 的上下文視窗。

Abliteration AI 表示,依其自行評估,模型在 CyberGym 的 1,507 項任務中,單次嘗試通過率為 84.5%;在 Terminal-Bench 4.0 的解題率為 41.8%。在 ExploitGym 中,模型於 2 小時內完成 869 項任務中的 105 項。該公司指出,各比較對象採用的測試工具與預算不同,因此不應將分數視為嚴格排名。

智譜(Z.ai)表示,GLM-5.3 的網路安全能力進展比預期更快,並稱在公開模型權重前會進行安全評估與強化。相關內容載於GLM-5.3 公告;智譜後續公開權重的過程,也曾由本報報導。

Anthropic 也曾針對自製的 GLM-5.3 變體,另外測試模型對有害要求的拒答行為。該測試並非針對 Abliteration AI 的 API。本報先前已報導這項研究在不同測試條件下的結果。

Abliteration AI 表示,依預設設定,API 提示詞與回應會在處理請求後刪除;為了計費與維持服務可靠性,公司會保留 token 數量、時間和狀態碼等營運中繼資料(服務說明)。Include Security 指出,部分提供 Abliteration 模型的託管業者,基礎設施資訊與第三方稽核資料不足;這項評估並未點名特定 API 業者。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1