Meta(META)的 AI 代理人 Muse 在測試中重現讀取未加入應用程式連結功能的 Signal 訊息;測試人員在 Android 與 Mac 上成功讀取,iPhone 則阻擋了相同存取要求。
路透社於18日報導,該社檢視超過24則 Meta 內部貼文,並與 Signal 及 AI Now Institute 的相關人士重現訊息存取情況。測試顯示,員工回報的問題仍持續發生,也可能影響其他使用者。
Meta 員工曾反映,Muse 顯示了他們未要求查看的育兒訊息、職涯建議和商品訂單內容。另有員工表示,自己詢問天氣與潮汐資訊的對話中,竟出現銀行帳戶餘額。
這名員工表示,自己從未將銀行帳戶連結至 Muse,也沒有與它談過金融相關內容。路透社無法確認顯示的餘額是否屬於他人金融資料,或是 Muse 生成的數字。
一名在個人手機上使用 Muse 的員工表示,自己收到一則通知,要求回覆姊妹傳來的 Signal 訊息。Signal 是採用端對端加密的訊息應用程式;該員工在內部貼文中寫道,自己不記得曾允許 Muse 存取其他應用程式。
Android 測試中,Muse 透過裝置的通知存取權限取得 Signal 訊息。即使使用者沒有在 Meta 的應用程式連結功能中加入 Signal,Muse 仍能運用初始設定時授予的作業系統權限。
在 Mac 上,Muse 則利用輔助使用功能與螢幕截圖工具讀取訊息內容。同一項存取要求在 iPhone 測試中遭到阻擋。
測試確認的存取方式,並非破解訊息傳送過程中的加密,而是讀取裝置上顯示的通知或畫面。這次重現也顯示,應用程式連結設定與作業系統權限可能各自運作。
Meta 推出 Muse 時曾表示,使用者可以選擇要連結的應用程式及存取範圍。Meta 也表示,每位使用者的代理人與資料會在獨立的安全虛擬環境中運作;寄送電子郵件、購物等敏感操作則須事先取得批准。
Meta 發言人丹尼爾·羅伯茨(Daniel Roberts)向路透社表示,所提案例屬於「個別案例」。他說,存取其他應用程式須由使用者明確授權;對於多起回報稱帳戶內容混淆的訊息,Meta 已確認其中不少是 AI 生成內容,並採取處置。
Signal 總裁梅雷迪思·惠特克(Meredith Whittaker)表示,Meta「沒有尊重基本的隱私保護與網路安全」。她要求應用程式開發者具備能限制 AI 代理人存取的技術手段。
Apple 本週更新 Mac 作業系統,限制開發者使用輔助使用工具,並新增 AI 代理人專用權限。Google 與 Apple 表示,正研議調整措施,讓使用者更能掌控授予 AI 代理人的存取權限。
Meta 員工類似的回報從9月中旬持續到11月。Muse 自9月推出後,下載量已超過1000萬次。
Meta 超級智慧團隊一名成員在內部貼文中回應員工疑慮時,提到 Muse 內建的提示詞可能使代理人在不同工作階段之間主動聯繫使用者,進而產生幻覺訊息。他也提到與加密資產相關的案例,例如 Muse 告知使用者比特幣(BTC)餘額。
Meta 於10月27日在新加坡推出 Muse,並介紹使用者可連結 Gmail 與 Google 日曆,以管理電子郵件和行程。本刊先前報導指出,Muse 可連結這兩項服務;這次測試則顯示,透過裝置設定授予的權限,也可能成為存取訊息的途徑。
本刊先前也報導過 Muse 被指讀取 Mac 私人訊息,以及 Meta 對權限設定的說明。這次 Signal 與研究機構相關人士重現了存取途徑,Apple 也推出限制 Mac 輔助使用工具的更新。
Comment 0