AI代理人速度挑戰既有資安模型，自主控制成新焦點

AI代理人處理外部工具與資料的速度超越人類，讓以人工核准和事後應對為前提的既有網路安全模型面臨限制。業界指出，資安架構也應轉向即時限制並記錄AI代理人自主行動的模式。

TechCrunch於23日報導，Index Ventures負責網路安全與企業軟體投資的合夥人Shardul Shah（沙杜爾・沙）在Podcast中作出上述分析。報導指出，Index Ventures持續投資網路安全與企業軟體，也參與雲端安全企業Wiz的多輪融資。

既有資安系統大多由人員先確認警報，再決定是否採取應對措施。在這種架構下，分析與核准所需時間通常被視為應變流程的一環。

但AI代理人不只解讀指令，也能呼叫外部工具、處理資料並連續執行多項工作。因此，在攻擊與防禦過程中，等待人工確認本身可能成為新的漏洞。

Shah表示，僅靠人員定期介入的既有資安方式，難以跟上AI代理人的速度。代理人越直接連接業務系統與資安工具，如何管理人工核准流程與自動執行之間的間隔就越重要。

隨著外界對AI安全性及失控代理人的疑慮升高，相關新創也吸引資金流入。TechCrunch介紹，Instinct與Simile獲得以過去標準難以解釋的大額投資及企業估值。

不過，TechCrunch指出，Simile是利用虛擬使用者開發行銷與產品調查服務的新創，業務領域與AI安全企業Instinct不同。

大型收購也被視為資安技術重要性的案例。Google於3月宣布完成收購雲端與AI安全企業Wiz。

Google表示，此次收購旨在強化多雲端與AI驅動的安全能力。TechCrunch介紹交易規模為320億美元（約43兆3280億韓元），但Google公開文件記載，反映收購價格調整等因素後的金額為295億美元（約39兆9430億韓元）。兩者金額不同，是因為交易條件的反映方式有所差異。

防禦技術也正朝向運用AI的方向發展。Palo Alto Networks推出訂閱服務，利用多個AI模型找出客戶系統的資安缺陷，並提出修正方案。Axios曾報導這項服務。

Palo Alto Networks表示，該服務同時採用Anthropic模型、OpenAI模型及開放權重模型。這顯示資安產品正從單一偵測功能，擴展至自動化缺陷分析與修正建議。

但將AI投入防禦並不代表風險就會消失。Anthropic在9月發布的威脅報告中表示，觀察到無需人工介入即可更新存取權限或蒐集雲端儲存空間的自動化攻擊案例。報告提出，代理人擁有的權限及可執行行動範圍應分開管理。

AI代理人安全的核心管理項目包括存取權限範圍、外部工具使用紀錄及工作中止程序。只有留下代理人接收何種指令、存取哪些系統的紀錄，才能在代理人代為執行業務時追查事故原因。

這項討論也可能延伸至台灣產業。本刊先前曾報導，AI代理人能夠執行檔案修改、指令執行、搜尋及部署。當具備業務系統權限的AI開始運作，僅靠帳戶管理將難以完成資安控制。

Shah表示，Index Ventures目前以比過去更少的驗證，投資AI安全企業。隨著AI代理人的應用範圍擴大，資安企業的競爭也不再只看偵測效能，還將延伸至能否限制代理人權限、記錄行動，並在必要時中止作業。