GLM-5.3模擬測試中有害請求回應率達64%至100%

開放權重人工智慧（AI）模型GLM-5.3在Anthropic進行的410次漏洞利用測試中，有50次成功製作出端到端漏洞利用程式。Anthropic測試安全防護措施遭繞過的可能性後發現，依測試條件不同，模型在模擬情境中回應有害請求的比率介於64%至100%。

Anthropic於9月29日公布的報告指出，GLM-5.3在針對Google Chrome V8引擎漏洞的ExploitBench測試中，410次有50次成功。Claude Mythos Preview在相同測試中成功56次。另一項內部測試顯示，GLM-5.3在100項任務中有4%成功完全接管控制流程，Claude Mythos Preview則為6%。

本刊先前曾報導GLM-5.3串連多個漏洞開發漏洞利用程式的測試結果。這次報告新提出的重點是，下載模型權重並自行執行的使用者可以更改模型的預設安全防護。開放權重模型公開訓練完成的權重，讓使用者能在自己的環境中執行或修改模型。

Anthropic表示，GLM-5.3在預設狀態下會拒絕明顯有害的請求，但若在提示詞中加入虛構情境，模型在模擬測試中有64%的比率會配合。預先填入推理Token時，回應率為92%；降低拒絕傾向的變體模型則有100%配合。這些數據是Anthropic在其設定的測試中所得，不代表一般使用環境或實際攻擊的成功率。

Anthropic表示，製作降低拒絕傾向的模型約耗費2,200 GPU小時，計算成本為4,400美元（約新台幣14萬3,000元）。報告註腳說明，大部分工作用於平行探索多種變體，並測試修改結果。報告估計，熟悉這項技術的團隊若從頭開始，約需600 GPU小時及1,200美元（約新台幣3萬9,000元）。由於兩項成本所依據的作業條件不同，難以用相同標準直接比較。

不同評估機構與方法對模型能力的定位也不盡相同。美國國家標準暨技術研究院（NIST）旗下人工智慧標準與創新中心（CAISI）於9月17日評估GLM-5.3為當時公開的開放權重模型中，網路安全能力最高的一款。CAISI表示，在綜合基準測試中，GLM-5.3約落後美國前沿模型4個月。

CAISI測試部分美國模型時關閉了網路安全防護措施，也將僅向有限使用者開放的模型納入比較。CAISI的評估與Anthropic的ExploitBench在任務和衡量方式上不同，因此無法用相同標準直接比較結果。

智譜此前表示，將在公開GLM-5.3權重前進行額外安全評估與強化程序。模型開發商智譜（Z.ai）在8月16日發布的文章中指出，GLM-5.3的網路安全能力既可用於防禦，也可能用於攻擊。公司表示，其託管服務採用過濾高風險請求的分類器、推理監測工具及模型本身的對齊措施。不過，使用者若下載權重並在本機執行，託管服務的分類器與監測工具不會自動套用。

Anthropic的實驗是在隔離的沙箱環境中進行。研究人員表示，他們利用GLM-5.3串連瀏覽器JavaScript引擎的漏洞，製作出可讀取訪客電腦檔案的漏洞利用程式，並已將相關漏洞通報瀏覽器管理人員。僅憑這項測試結果，無法斷定實際網路攻擊已經發生，或GLM-5.3已被用於攻擊。