AI代理擴散，企業轉向權限與稽核控制塔

隨著AI代理直接存取企業系統並執行工作，企業正建立整合權限管理、活動紀錄與安全監控的控制體系。工作自動化範圍擴大後，風險也從錯誤回答轉向權限濫用、敏感資訊存取與提示注入。

AI代理不同於只回答問題的聊天機器人，能連接多個應用程式、安排工作順序並呼叫工具。因此，企業必須管理代理的身分、執行權限與操作內容，並確保發生問題時可以中止工作。

Intuit將安全、風險與詐欺控制功能納入生成式AI作業系統「GenOS」。GenOS的設計，是在單一開發環境中管理提示詞、資料、大型語言模型（LLM），以及AI代理的規劃、推理與執行功能。

Intuit表示，即使AI代理代表客戶採取行動，系統仍會讓客戶保有控制權。公司在自動化應收帳款、應付帳款處理與稅法更新等工作時，也要求開發人員及稅務、會計專業人士審查稅務相關產出。

Intuit公開代理開發套件後，在5週內製作出數百個潛在應用案例。這顯示，隨著代理數量增加，部署後的權限與紀錄管理體系，重要性可能高於個別功能的性能。

Workday則公開將AI代理視為與人類相同「數位人力」管理的「Agent System of Record」。該系統支援代理的註冊、部署、分析、生命週期管理與責任追蹤，也能註冊及監控外部建立的代理。

ServiceNow表示，透過「AI Control Tower」，企業可以搜尋內部的AI模型、代理與模型上下文協定（MCP）伺服器，並集中管理權限、安全、活動與績效。2026年5月公布的擴充版本，也將部署在ServiceNow外部系統的AI納入管理範圍。

ServiceNow的產品說明指出，AI Control Tower能追蹤代理身分、存取權限與暴露狀態，阻擋提示注入，並套用最小權限原則。Workday與ServiceNow都將代理視為具有獨立身分與權限的工作主體，而不只是單純的軟體功能。

這項趨勢也與本報先前報導的AI代理競爭核心正從模型性能轉向企業系統相互呼應。企業代理越能存取電子郵件、協作工具與業務資料，就越需要將中央核准、最小權限與稽核紀錄整合運作。

安全業界也持續推出因應方案。英偉達($NVDA)於2026年7月27日成立Open Secure AI Alliance，思科(Cisco)、微軟($MSFT)、三星電子、SK電信、ServiceNow、Workday與Zscaler等公司參與其中，將共同開發保護AI代理與軟體的開源工具及技術。

Zscaler表示，公司針對AI代理與生成式AI使用情境，提供依使用者設定的存取控制、提示詞與回應監控，以及敏感資訊外洩阻擋功能。Zscaler提出的AI流量成長率3,464.6%，是根據分析5360億筆交易的自有資料計算，不能直接概括為整體企業市場的成長率。

圍繞AI開發速度的爭論也持續升溫。Anthropic執行長達里奧·阿莫代伊(Dario Amodei)在9月公開的文章中主張，為了確保安全措施有時間跟上，應放慢AI模型能力提升速度，並建議讓獨立評估機構持續取得系統存取權。

OpenAI政策主管克里斯·萊亨(Chris Lehane)表示，OpenAI已與Anthropic及Google DeepMind就AI安全問題討論數週。不過，共同放慢開發速度的正式協議與執行時程目前尚未確認。

另一方則主張，與其全面放慢速度，不如在具備控制措施的前提下開發。Fortune報導，Lumen Technologies技術長兼首席產品官吉姆·福勒(Jim Fowler)表示需要「安全加速」；Meta執行長馬克·祖克柏(Mark Zuckerberg)也未支持業界一體適用的放慢開發主張。

企業沒有停止導入AI代理，而是增加權限、稽核與安全層，競爭焦點因此從模型本身擴大至控制企業系統的管理體系。金融業也已制定將AI使用資料、模型性能與中止標準置於管理層責任之下的原則，本報曾對此進行報導。

不過，Intuit、ServiceNow與Workday提出的控制功能，是否能實際降低事故或削減成本，仍需另行驗證。目前公開資料尚未提供可用同一標準比較各企業事故下降率與營運成本的數據。