AI代理人即使在預算內完成付款,仍可能選錯商品或目的地;一個以訂機票為例的假設情境,凸顯付款完成不代表代理人理解了用戶的真正意圖。
Bakkt(BKKT)商務長丹尼爾·伊沙格(Daniel Ishag)在座談中說:「怎麼知道AI代理人不會替你訂一張飛往北韓、而非南韓的機票?」這並非真實訂票事故,而是假設代理人遵守預算,卻誤解用戶目的的情境。
付款出錯可能有不同原因,包括代理人誤解要求、攻擊者把惡意指令偽裝成有用資訊,或帳戶存取權遭到竊取。即使付款結果相同,責任歸屬也可能因原因而異。
BeInCrypto於31日發布的《2026年AI代理人支付現況》檢視19項產品與工作流程,並將其中14項歸類為可在預先授權範圍內支出或交易。這項分類是依據調查對象的功能文件進行整理。
這項分類不代表研究已驗證授權機制能防止錯誤。在授權範圍內完成付款,與正確理解用戶具體的購買意圖,是兩件不同的事。
報告檢視的兩起事件中,在資金追回前,共有28萬1,200美元(約3億7,540萬韓元)轉入攻擊者控制的錢包。這是兩起事件的轉帳金額,不代表最終損失。
報告指出,惡意指令傳到持有資金的錢包後,促成了轉帳;區塊鏈本身並未遭到入侵。問題在於具有付款權限的代理人接收了什麼指令,以及如何執行。
支出上限只能設定允許支付的金額。即使核准支出200美元(約26萬7,000韓元),用戶想買的商品、指定收件人或購買條件是否一併傳達給支付業者,仍須另行確認。
Stripe的Link代理人條款規定,在用戶與Stripe之間,由用戶承擔已連結代理人所發起交易的責任。即使用戶並無交易意圖,條款仍將責任歸於用戶。
代理人因程式錯誤、幻覺或誤解指令而完成的交易,也會被視為用戶親自進行的交易;若交易是由Stripe本身的技術故障或錯誤造成,則屬例外。
用戶可先聯絡商家申請退款,也可向Link支援團隊提出申請。條款表示,退款將依個案判斷;若確認涉及詐欺或濫用退款機制,Stripe可拒絕申請。
這些條款說明Stripe與用戶之間的契約責任,但單憑條款文字,無法確定所有消費者的法律權利。
Sailo Technologies共同創辦人暨執行長埃胡德·塔爾(Ehud Tal)說:「我們首度向客戶提供退款保障。」他將退款保障描述為一種客戶補償方式。
Bitcoin Japan Corporation執行長菲利普·洛德(Phillip Lord)說:「加密貨幣本來就相當有風險,不是嗎?人類也沒那麼可靠,不是嗎?」他同時提到使用代理人的風險,以及由人親自處理時也可能出錯。
Google在代理人支付協定(AP2)介紹文件中,提出一套以密碼學簽署紀錄串連用戶指示、購買授權與付款的架構。AP2的設計支援信用卡、簽帳金融卡與穩定幣等多種支付方式。
這些紀錄可作為確認獲准購買項目的依據,但AP2本身不保證退款。英國金融行為監理總署(FCA)19日公布的資料指出,受監管公司即使使用AI,仍須對提供給消費者的結果負責;該機構也提醒,人工審查可能流於形式。
留言 0