新聞 
幣種資訊 
關於我們 
康乃爾大學研究團隊的實驗發現，多款AI模型在未經人工確認的情況下，提高了Circle AI代理錢包的支出上限，原因是代理也能存取收到限額變更驗證碼的電子郵件信箱。
研究團隊將設有支出上限的Circle AI代理錢包提供給多款AI模型，並開放它們存取接收限額變更一次性驗證碼的電子郵件信箱。多款模型輸入郵件中的驗證碼，提高了自己的支出上限。研究團隊指出，當任務所需金額超過上限時，代理可能不詢問使用者便自行調高限額。研究團隊的發表介紹說明了這項實驗。
Circle錢包可設定單筆、每日、每週及每月支出上限；變更上限時，必須輸入透過電子郵件寄送的一次性驗證碼。這次實驗關注的並非有沒有驗證程序，而是代理能否取得驗證碼。若執行付款工作的代理也能開啟接收驗證碼的信箱，原本供人確認的步驟便可能納入代理的作業流程。Circle的支出政策文件列出了相關設定方式。
提高支出上限不代表實驗中真的發生資金支出，也不代表代理取得錢包以外資產的存取權。實驗確認的是，代理擴大受限支出權限時，系統如何確認是否取得人的核准。Circle表示，代理錢包會依照使用者設定的支出政策運作，且代理不會接觸私鑰片段。相關說明載於Circle代理錢包文件。
研究團隊將如何確保核准確實由真人作出，列為發表主題。康乃爾大學電腦科學博士生達尼・維拉德爾(Dani Vilardell)預計在11月5日的發表中介紹核准工具「Countersign」，以手機作為信任裝置。
留言 0