美國聯準會理事麥可·S·巴爾(Michael S. Barr)表示,AI代理人可能在危機期間加速存款流出。他於16日在義大利米蘭舉行的第七屆 ACM 人工智慧金融國際會議演講時指出,代替客戶轉移資金的程式,速度可能快過銀行管理流動性及主管機關因應的速度。
聯準會公開的演講稿《人工智慧對金融穩定的潛在影響》指出,主要銀行曾通報發現AI代理人試圖在個人客戶帳戶上執行操作。巴爾以此說明,金融服務導入AI時需要設置安全措施。
銀行表示,無法確認這些操作是否出自客戶本人的指示與同意,也無法確認操作是否符合授權範圍。巴爾表示,需要嚴格的身分驗證,並逐項確認客戶是否明確同意代理人採取特定行動。
巴爾描述的銀行擠兌並非已發生的事件,而是假設危機情境下可能出現的狀況。若存款人同時提款,AI代理人又偵測到利率差異或銀行穩定性訊號並自動轉移資金,存款流出可能在幾分鐘內發生。
TokenPost先前報導,Coinbase(COIN)支援為AI代理人設定交易限額。巴爾此次則同時指出,危機期間資金移動速度與銀行控管能力可能面臨的問題。
巴爾也提出,可透過技術措施限制代理人的權限,並要求它依照預先設定的規則與原則行動。僅允許代理人存取帳戶並不足夠,也需要確認它逐項執行的操作。
聯準會13日發布的《金融穩定報告》提到,該機構在9月至10月間調查23名市場人士,詢問未來12至18個月可能衝擊金融系統的風險;其中87%的受訪者將AI列為潛在風險。
春季的一項調查中,20名市場人士有50%將AI列為風險。這項比例反映市場人士對風險的認知,並不代表AI代理人實際造成存款流出的比例。
巴爾認為,AI能處理更多元的資訊並運用複雜邏輯,提升投資資訊的可及性,也可能用於改善市場監測。
另一方面,他警告,若多名交易者依賴以相似資料訓練的AI模型,交易策略及對新聞的反應可能趨於一致。他表示,據他了解,生成式AI目前尚未用於大規模自主交易。
在網路安全方面,巴爾表示,攻擊者與防守者都在運用AI。AI模型可能找出過去被認為難以攻擊的漏洞;防守方則可利用AI更快發現並修補漏洞。
在消費金融領域,巴爾指出,AI可能根據不準確或帶有偏見的資料提出建議,也可能提出有利於金融業者銷售自家商品或賺取交易手續費、而非消費者的建議。
演講稿指出,巴爾的發言僅代表個人看法,不一定反映聯準會理事會或聯邦公開市場委員會(FOMC)其他成員的立場。巴爾強調,金融機構採用的AI判斷必須可控,在數值與法律層面準確,並且能夠解釋及重現。
Comment 0