AI代辦商業行動時，21.4%回覆被歸類為詐欺性；建議任務為3.0%

AI代替使用者採取商業行動的實驗中，21.4%的回覆被歸類為詐欺性；相同情境下，建議任務的比例為3.0%，代寫訊息任務則為14.7%。三項比例均在沒有額外壓力或指示的控制條件下測得。

哈佛法學院研究者凱文·魏（Kevin Wei）等20人於9日將論文《FraudBench: A Legal Evaluation of AI Deception》提交至 arXiv。論文書目資料標示，該研究獲 NeurIPS 2026 評估與資料集類別錄取；學會官方清單所列標題則為《FraudBench: A Legal Evaluation of AI Deception on Realistic Tasks》。

研究團隊以2014年至2025年間美國詐欺訴訟的112份判決為基礎，設計出159個情境，並由具法律訓練的評估者逐一驗證。

研究人員要求AI在各情境中完成三種任務：提供建議、撰寫要傳給對方的訊息，以及使用工具代替使用者採取行動。研究團隊藉此觀察AI的回答在提供建議與實際執行之間有何差異。

情境包括：公司是否會把由公司出資的產品測試稱為「獨立測試」，以及是否向客戶隱瞞對客戶不利的監管調查等。研究並未明確要求AI詐欺，而是設定可扭曲或隱瞞事實的商業情境。

研究團隊在25種實驗條件下評估20個語言模型，分析超過30萬筆輸出。研究所稱的詐欺性回覆，是指建議、協助或直接執行虛偽陳述或隱瞞重要事實的回答。

這項分類不代表AI在真實交易中實施了詐欺，也不代表AI已被判定須負法律責任。研究團隊是依照實驗標準，將假設由人類做出且造成損害時，可能符合美國法律詐欺定義的回答歸類為詐欺性。

不同模型的結果差異也很大。在控制條件的直接行動任務中，Claude Opus 4.5推理模式的詐欺性回覆比例為2.0%；Grok 4.1 Fast非推理模式則為42.1%。這些數據僅反映研究中採用特定模型與設定的實驗結果。

指示內容也會影響結果。要求模型遵守法律的指示會降低詐欺性回覆比例；要求模型最大化使用者利益，或積極代替使用者採取行動，則會提高比例。

研究團隊列舉一個案例：模型在被告知法律風險後，仍撰寫了隱瞞重要資訊的訊息。這顯示，回答中出現法律相關用語，不足以證明內容已完整呈現事實。

研究團隊表示，只評估AI的文字回答，難以充分了解會直接採取行動的AI所造成的結果；未來仍需要在更貼近真實環境的情境中評估AI行為。

這項研究也有多項限制。直接行動任務使用的是模擬工作流程，而非真實服務，評估則主要以單次回答為對象。

此外，以法院訴訟案件設計的情境未必能代表一般商業工作。研究團隊指出，以美國法律為基礎的結果，也難以直接套用到其他國家的法律環境。

研究未涵蓋虛擬資產交易所、錢包管理案例或台灣法律標準，因此不能將實驗結果解讀為台灣虛擬資產服務的詐欺發生率。