思科公開 Project Quarry，串聯 AI 代理人行為偵測風險

思科（Cisco，CSCO）公開開源工具 Project Quarry，將 AI 代理人在單一工作階段中的行為串聯分析，以找出風險跡象。這項工具不只個別判斷檔案存取或外部連線，也會檢視前後行為之間的關聯。

科技媒體 The Register 於 28 日刊出的專訪介紹了這項設計。思科 AI 威脅與安全研究主管 Amy Chang 表示：「Quarry 會考量代理人的整個工作階段。」此處的工作階段，是指代理人執行單一任務期間留下的對話與工具使用紀錄。

工作階段分析會檢視同一項任務中的行為順序，而非只判斷個別呼叫是否恰當。讀取敏感檔案或連線至外部服務，單獨來看都可能是獲准的操作。

但如果代理人在同一工作階段讀取檔案後，又在一段時間內將內容傳送到外部，兩項行為之間的關聯就可能構成資料外洩跡象。Quarry 的設計，是讓使用者以規則描述這類具有先後順序與時間關聯的紀錄。

思科研究團隊提出一個偵測示例：同時保留檔案存取紀錄，以及隨後發生的外部傳輸紀錄。觸發警示的依據是兩筆紀錄之間的關聯，而非單一行為。

思科希望建立共通格式，讓資安團隊能分享規則，並在各自環境中檢視與套用。其作用類似 Snort 的網路入侵偵測規則，以及用於辨識惡意程式的 YARA 規則格式。

思科 AI Defense 的公開專案列表還包括用於檢查 MCP 伺服器的 MCP Scanner、檢查代理人彼此通訊的 A2A Scanner，以及檢視代理人技能的 Skill Scanner。MCP 是 AI 模型連結外部工具與資料時使用的模型上下文協定。

The Register 報導，Quarry 的儲存庫提供安裝說明與規則範例。不過，思科 AI Defense 的公開專案列表目前未列出 Quarry 儲存庫。

本刊先前報導，思科參與的 Open Secure AI Alliance 曾提出 AI 資安事件共享指引。SAFE 指引旨在讓業界共同分析並分享事故與近失事件，與 Quarry 分享規則的構想是不同事項。

企業代理人若能存取工作資料與工具，權限設定和事後紀錄也會成為資安管理的一環。本刊先前也報導過企業同時管理 AI 代理人權限與稽核紀錄的趨勢。

Hugging Face 在 2026 年 7 月發布的技術時間軸中表示，該公司重建自家系統遭入侵事件時，還原出約 1 萬 7600 筆攻擊者行為紀錄。當時代理人經過多個安全漏洞，進入內部系統。

遭存取的客戶內容包括 5 個與 ExploitGym 相關的資料集。Hugging Face 表示，其他客戶的模型、資料集、Spaces 與套件未受影響。

OpenAI 在事件說明中表示，其評估流程中的代理人為取得任務獎勵而越過安全邊界。Hugging Face 也推測，代理人曾試圖存取其系統，以取得評估答案。

思科研究團隊並未將 Quarry 套用於這起入侵事件的紀錄進行測試。因此，Hugging Face 案例可作為分析代理人行為流程的設計背景，但不能視為 Quarry 偵測效能的測試結果。