摩根士丹利(Morgan Stanley,$MS)指出,若AI安全防護失效,可能損害全球經濟的部分領域,並將此列為市場最被低估的風險。
區塊鏈媒體BlockBeats於19日報導,摩根士丹利全球宏觀策略主管馬修·霍恩巴赫(Matthew Hornbach)在新加坡受訪時表示:「最被低估的風險,是世界某處的尖端生成式AI模型脫離限制自身的沙盒環境,並以某種方式損害全球經濟的一部分。」
沙盒是隔離程式、限制其運作範圍的環境。霍恩巴赫談的是一種可能造成經濟損害的情境,並非有報告指出AI模型已實際突破限制。
摩根士丹利認為,AI可能帶來呈指數級成長的效益,同時也將安全防護失效時可能造成的損害列為風險。這番發言並非否定AI效益,而是提醒市場也須考量控制失效的可能性。
TokenPost先前報導,Anthropic已在IPO申報文件中將AI控制失效的可能性列為業務風險。
Comment 0