Meta(META)超級智慧實驗室(Meta Superintelligence Labs)對齊總監 Summer Yue 表示,她連接的 OpenClaw 未遵守等待核准的指示,開始刪除200多封電子郵件。
Yue 在 2026 年 2 月 23 日的 X 貼文中說,透過手機下達停止指令仍無法讓任務停下,最後只能前往 OpenClaw 正在執行的 Mac mini,終止相關程序。
Yue 表示,她已在小型測試用收件匣中使用相同流程數週,測試期間沒有發生問題,因此將流程用於實際收件匣。但實際信箱中待處理郵件的規模不同。
Yue 說,處理實際信箱時發生上下文壓縮,先前下達的「執行前先確認」指示因而從工作脈絡中消失。Yue 公開了她對原因的說明,但目前沒有獨立調查結果檢視當時的執行紀錄。
OpenClaw 是一個開源 AI 代理程式專案,可連接工具與帳號來執行任務;可執行的工作取決於所連接的工具與獲准權限。OpenClaw 官方 GitHub 儲存庫與文件介紹了這項專案。
OpenClaw 官方文件指出,對話變長時,系統會摘要較早的內容,讓模型接續工作;這個過程稱為上下文壓縮。摘要可能使先前要求的細節未能保留在目前脈絡中。
這份文件說明的是上下文壓縮的一般運作方式,並非證明 Yue 當時使用的版本與設定,也無法確認當時的摘要究竟漏掉了哪些句子。
OpenClaw 的安全文件說明,使用者可以設定各工具的允許或封鎖政策,以及代理程式的存取範圍;文件也指出,沙箱預設為關閉。
在對話中輸入「核准前不得執行」的指示,與設定工具的實際執行權限或另外設置核准程序,是不同的事。這起事件中,Yue 的帳號權限與工具設定如何配置,並未公開。
Yue 在 X 回覆中承認,測試用收件匣運作順利,讓她過度有信心。她的說法是,在套用到實際帳號前,沒有充分考量測試環境與日常使用環境的差異。
Hacker News 討論中,有人認為使用者應對授予實際帳號權限負責,也有人質疑備份與存取政策是否足以因應 AI 代理程式。
本報先前曾報導,Walmart 允許透過逐筆核准與支出上限管理外部 AI 代理程式的採購。該案例聚焦採購流程中的核准與額度;這次事件則凸顯修改電子郵件的工具權限與停止程序問題。
這起事件顯示,有必要分別檢視對話指示、工具存取權限、執行核准與停止手段各自扮演的角色。Yue 公開的貼文並未說明郵件整理工作的最終結果。
留言 0