Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

9種簡化遊戲環境測試:AI代理初次合作易失敗,共同規則僅改善部分情境

兩個遊戲位置之間擺放著小型信號燈與動物卡片 / TokenPost.ai

在9種簡化遊戲環境中,首次配對合作的AI代理可能因各自解讀規則而失敗。研究發現,提供共同原則能降低部分環境的協作失敗率,但並非適用於所有任務。

牛津大學(University of Oxford)研究團隊於11月4日公開論文《Zero-Shot Coordination among LLM Agents》,測試大型語言模型(LLM)代理的「零樣本協調」(ZSC)能力。研究讓彼此獨立開發的代理首次配對,在「Cat & Dog」、「Tiny Hanabi」等9種簡化遊戲中合作完成任務。

「零樣本協調」指代理彼此未事先溝通,也未針對對方調整策略,就首次合作的情況。若雙方各自假設一套未共享的規則,同一個行動或訊號就可能被解讀成不同意思。

在「Cat & Dog」中,一個代理看到貓或狗後以燈號傳遞資訊,另一個代理則要猜出動物。若雙方沒有先約定亮燈代表貓還是狗,同一個訊號就會有不同含義。

實驗中,Gemini 3 Pro曾把亮燈對應到貓,GPT-5.2則有案例將同一訊號解讀為相反意思。這表示代理各自設定規則後,可能會假設對方也採用相同規則。

研究團隊也提供移除牆壁的選項,讓一方看到的動物也能被另一方直接看見。即使如此,部分代理仍依賴自行設定的燈號規則。

以程式碼制定行動規則的實驗也出現差異。相較於讓採用相同政策的代理配對,將彼此獨立生成的政策組合在一起,表現較差。

更改規則名稱,或改用其他語言描述任務,也曾改變代理的選擇。研究團隊指出,任務的表述方式與推斷對方行動的能力,都可能影響協作失敗的情況。

不過,研究並未個別驗證各因素是否造成失敗。模型整體能力較強,或進行更多推理,也不代表一定更擅長和初次配對的對象合作。

研究團隊在提示詞中加入代理共同遵循的自然語言原則「協作友善定義」(CFD),引導代理依據共同規則行動,避免依賴任意慣例或角色分配。

在「Cat & Dog」中,CFD引導代理不使用燈號,而是讓另一方直接看見動物。依照任務設計,代理因此不必另外協調訊號系統,也能合作。

在文字代理實驗中,加入CFD後,Grok 4.1 Fast在9種環境中的6種、GPT-5.2在5種環境中的協作失敗率下降。這些數字代表失敗率有所改善的環境數量,並非各模型的整體失敗率。

共同規則在部分環境中反而限縮了代理的選擇。代理可能因此反覆採取安全行動,無法形成完成任務所需的新慣例。

研究團隊也測試自動搜尋規則的方法。自動搜尋出的定義在部分未參與訓練的模型上帶來有限改善,但並非所有模型組合都有效。

本刊先前曾報導45個AI代理實驗顯示,協作結果會隨任務而異。此外,也有加密貨幣交易所授予AI代理下單權限的案例。不過,本次研究僅涵蓋簡化遊戲,未驗證代理在實際工作或機器人環境中的表現,也未測試加密貨幣交易或區塊鏈服務中的代理協作。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1