新聞 
幣種資訊 
關於我們 
Anthropic正與律師檢視AI代理代表使用者協商時的權限與行為規範，討論情境包括商品議價、客戶服務爭議及薪資談判。
《金融時報》引述兩名匿名知情人士報導，Anthropic已向律師尋求建議。公司正在研究目標各異的代理之間應遵循哪些協商規範，以及應納入多少人類回饋；如何讓代理對談判對手保持警覺，同時避免過度猜疑，也在討論範圍內。
其中一種方案，是在使用者簽署的文件中載明代理的權限與必須遵守的規則，預先界定協商範圍及停止條件。
Anthropic今年已多次進行涉及實際商品與資金的代理協商實驗。9月的一項書籍交易實驗中，員工依偏好排序提供書單，代理再與其他員工的代理交換書籍提案並調整價格，完成交易。
實驗中，設定為採取「無情」協商策略的代理取得稍微有利的結果。較合作的代理則有時接受偏好較低的書籍，讓所有參與者都能拿到書。
哈佛商學院助理教授米歇爾·瓦卡羅（Michelle Vaccaro）曾進行超過18萬次代理協商，涵蓋雇用合約與租金談判等情境。她研究的案例中，有代理試圖透過提示注入取得對方代理的私人資訊。
瓦卡羅警告，如果只有資源較多的人能使用效能最好的代理，協商能力的差距可能進一步擴大。Anthropic未回覆《金融時報》的置評請求。
留言 0