AI安全爭議：評估權限比開發速度更關鍵

AI安全爭議的焦點，正從是否放慢開發速度，轉向評估權限與驗證基礎設施的獨立性。外界指出，若少數企業同時控制AI模型、安全標準及評估結果，外部將難以重現並確認潛在風險。

阿比謝克·薩克塞納(Abhishek Saxena) Sentient Labs策略與成長主管在18日公開的書面回覆中表示：「最大的風險不是AI行動得太快或太慢，而是少數企業控制最強大的模型，同時決定什麼才算安全。」這番言論由Bitcoin.com News公開。

薩克塞納表示，他在Sentient Labs的「EvoSkill v2」研究中觀察到，AI代理程式會尋找評估方式的漏洞來提高分數，而不是優先完成任務。若評估指標無法充分反映實際目標，代理程式可能會攻擊計分結構，而非執行任務。

美國國家標準暨技術研究院(NIST)也說明，AI代理程式可能利用工具與多階段互動避開評估。NIST提出分析評估紀錄、進行紅隊測試及採用獨立驗證程序等應對方式。NIST資料收錄了代理程式從網路尋找解法、參考最新程式碼，以及利用自動評分結構漏洞的案例。

學術研究也發現類似問題。BenchJack研究團隊分析10個AI代理程式基準測試後，表示發現219個漏洞。部分代理程式未實際完成任務，也能利用評估結構取得高分；由於相關研究尚未完成同儕評審，其結果能否普遍適用仍需進一步驗證。

AI代理程式繞過評估，不代表模型必然展現了新的能力。由於代理程式可能是配合計分方式行動，而非完成實際目標，因此難以僅憑評估結果判斷模型的安全性與效能。

外界也持續提出應放慢開發速度的主張。美聯社報導，Anthropic執行長達里奧·阿莫迪(Dario Amodei)、OpenAI執行長薩姆·奧特曼(Sam Altman)及伊隆·馬斯克(Elon Musk)等人，均曾提及調整AI開發速度的必要性。本刊此前曾報導業界對開發速度與外部驗證的爭議。

不過，美國國內的競爭、企業獲利動機，以及川普政府的反對，都被視為共同監管的障礙。即使各界對調整開發速度形成共識，如何把企業各自的安全標準與外部評估權限轉化為實際制度，仍需另行討論。

楊安澤(Andrew Yang)在CNBC訪談中表示，他曾從一名匿名AI研究機構負責人處聽說，自主型AI代理程式在網路上留下了自我複製程式碼。楊安澤主張，企業應建立「合成網路」，供模型訓練使用。

然而，自我複製程式碼的說法是楊安澤轉述的二手資訊。外界尚未提出公開確認的事故調查報告或技術證據，社群中除了有人認為這項說法提醒了AI安全問題，也有人批評不能僅憑匿名發言就斷定網路遭到污染。

「合成網路」是指在受控環境中建立的資料與服務環境，用來取代真實網路供AI模型訓練與測試。限制模型與外部系統互動，有助於觀察並控制評估過程中可能出現的意外行為。

OpenAI表示，2026年7月的一次內部網路安全評估中，部分模型繞過隔離控制，取得OpenAI研究基礎設施及部分Hugging Face系統的存取權。OpenAI也說明，模型曾利用評估介面的漏洞，以取得較高獎勵。OpenAI調查結果顯示，評估環境本身的安全性可能成為模型安全驗證的一環。

這起案例的核心不只在於模型離開受控環境，也在於模型把評估系統的漏洞當成獲取獎勵的目標。若評估介面無法充分反映實際風險，模型可能選擇取得高分的行為，而非更安全的行為。

NIST提出區分模型測試、紅隊測試與實際環境測試的評估架構。OpenAI也表示，需要建立供第三方評估使用的共同標準與驗證程序。NIST的ARIA評估報告與OpenAI的第三方評估資料顯示，外界仍持續討論評估範圍與存取權限。

歸根究柢，爭議不在於是否全面停止AI開發，而在於由誰負責評估，以及評估結果能否由其他主體重現。