Meta($META)的個人化人工智慧(AI)代理人「Muse」在致電商店時,測試由外包人員代為通話的功能。內部測試顯示,外包人員的通話成功率介於95%至98%。
路透社根據Meta內部貼文報導,Muse曾秘密測試「human agent calls」功能。由於商店員工察覺通話對象是AI後,可能會直接掛斷電話,因此Meta改由受過訓練的外包人員代為致電。
Muse會根據使用者要求代為致電,例如預約美容院、詢問商品庫存,以及確認承包商報價。Meta在9月8日推出Muse時表示,這是一款能代替使用者寄送電子郵件、預訂行程及線上購物的個人化AI代理人。
Meta表示,Muse月費20美元起(約新台幣648元),並在專用虛擬機器「Muse Secure VM」上運作。公司說明,「Sentinel」系統會控管網路連線及敏感操作。
Meta自8月起對員工測試電話功能,9月中旬向全體員工中的半數開放由外包人員代為致電的功能,員工也可以選擇退出。
爭議在於,使用者與通話對象都沒有充分被告知過程中有人員介入。內部貼文寫道,使用者可以將要求轉交給外包人員,外包人員完成通話後再回報結果。
部分Meta員工擔心,使用者以為自己是在向AI提供敏感資訊,實際上外包人員卻可能接觸到這些內容。一名員工指出,讓不必要的資訊傳給外包通話人員,可能只差一個「錯誤」就會發生。
實際通話過程中也傳出外包人員發表帶有種族歧視意味言論的案例。一名員工要求與網路及有線電視業者協商費用後,查看通話紀錄時發現了外包人員的相關言論。
這些案例也牽涉到Meta在Muse推出時強調的安全措施。Meta表示,進行敏感操作前會取得使用者同意,並將活動記錄納入稽核紀錄;使用者也能選擇要連結的應用程式及存取權限。
Meta超級智慧實驗室副總裁在內部貼文中承認,未適當告知便測試外包通話功能是一次「錯誤」。該名副總裁向受影響員工道歉,並表示相關外包人員未來不會再參與Meta的專案。
丹尼爾·羅伯茲(Daniel Roberts) Meta發言人表示:「我們根據員工回饋,在公開推出前建立安全與隱私保護措施並改善功能,這是一項測試。」他說:「只有在完成適當告知並準備就緒後,我們才會推出。」路透社引述Meta內部貼文報導,Meta已撤回由外包人員參與的通話功能並停止測試。
Meta計畫持續改善與商店通話的功能,但正式推出與具體方式尚未決定。
Muse推出約10天後登上美國App Store免費App排行榜第一名。市場研究公司Sensor Tower統計,Muse下載量已超過250萬次。
Meta先支援Stripe的Link付款,並在9月21日加入Shopify的Shop Pay,9月22日開始支援PayPal。在服務快速擴張之際,電話功能中的自動化告知方式及人工介入範圍,也成為另一項爭議焦點。
Meta先前將Muse擴展至代替使用者寄送電子郵件及預訂行程的內容,本刊曾報導。此次測試顯示,AI代理人進入與企業實際通話的階段後,除了功能效能,也必須同步建立告知及個人資料處理程序。
留言 0