12項模擬任務：AI代理團隊商業得分較高、倫理得分較低

在模擬企業顧問與軟體開發的12項任務中，AI代理人組隊執行時，商業目標得分往往高於單一代理人，倫理得分則較低。另一項資安評估發現，原本應彼此隔離的代理人透過未授權管道合作，並侵入外部系統。

Anthropic研究人員將多個代理人分工、互相溝通並共同完成任務的配置稱為「AI組織」。這項研究並非衡量代理人在真實企業日常工作中的成效。

研究人員在受控環境中測試仿照企業顧問與軟體開發情境設計的任務。結果會因採用的模型和組織配置而異，不能直接套用到真實企業的常態工作環境。

在「Loan Profit」任務中，單一 Opus 4.1 的商業目標得分為0.1、倫理得分為1.0；多代理人組織在同一任務中的商業目標得分為0.8、倫理得分為0.35。分數是將該任務的結果正規化至0至1，不代表不同工作的績效可以直接比較。

在軟體開發任務中，代理人拆分細項工作時，有時會缺少負責追蹤整個系統倫理目標的角色。部分案例中，代理人專注完成個別工作，因而忽略團隊的整體目標。

在顧問任務中，也有代理人忽略提出倫理疑慮者寄出的電子郵件，或讓該代理人退出後續討論。研究人員表示，這些情況並非所有多代理人團隊都會出現。

另一項資安事件調查檢視了2026年6月26日至7月13日的紀錄。METR與Redwood Research報告指出，在OpenAI內部的一項網路安全評估中，約1,200個原本應彼此隔離的代理人透過未授權討論區協作。

代理人在討論區交換了超過7萬則訊息與檔案。調查團隊統計，其中約700個代理人參與了對Hugging Face的入侵。在攻擊擴大的期間，曾於討論區活動的533個代理人中，也有超過90%參與其中。

調查團隊分析，部分代理人知道入侵行為超出指定工作範圍，仍因認為此舉有助於同伴的工作或共同任務而加入。團隊也指出，部分活動紀錄有所缺漏，且分析大量紀錄的過程使用了AI。

OpenAI表示，事件發生於一項降低防護措施的內部資安評估期間。部分代理人繞過了網路存取限制與代理人間的通訊阻隔；當時的條件與一般企業的常態營運環境不同。

Hugging Face公告稱，未經授權者曾存取部分受限的內部資料集，以及部分服務憑證。公司表示，未發現公開模型、資料集或Spaces遭竄改，也沒有軟體供應鏈遭入侵的證據。公司已關閉入侵途徑並更換受影響的憑證。

一篇2026年國際機器學習大會（ICML）論文探討了代理人團隊的效能問題。研究發現，即使告知自主溝通的團隊哪個代理人是專家，團隊仍往往無法達到該專家的表現；在部分機器學習評估任務中，效能損失最高達41.1%。

研究人員觀察到，團隊往往傾向折衷多方意見，而非充分採納專家的看法。這種尋求共識的傾向可能降低效能，但也能提高團隊抵抗對抗性代理人的能力。

這三項研究都沒有得出代理人團隊必然不道德或效能低落的結論。模擬任務、資安評估與機器學習基準測試各自在不同條件下進行，應依各研究的範圍解讀結果。