AI滅絕警告掀論戰　葛斯納批評為監管介入誇大其詞

人工智慧（AI）可能導致人類滅絕的警告，讓投資人與AI安全研究人員爆發激烈交鋒。一方批評相關警告是為了拉高監管介入力道而刻意誇大，另一方則主張AI開發競賽正把人類安全擺在次要位置。

布拉德·葛斯納（Brad Gerstner）奧特米特資本（Altimeter Capital）執行長於11日（當地時間）在CNBC《Halftime Report》節目中表示，提出「AI滅絕論」的研究人員背後可能帶有政治動機。他稍早也在社群媒體上發文，大意是「一名只在Anthropic待過6週的初階離職員工，說法誇張到離譜，這也能成為監管介入的依據嗎」。

葛斯納主張，針對AI風險的警告並非全然出自科學上的擔憂，背後也可能存在推動監管加強的目的。評論：不過這僅是葛斯納個人的判斷，並非能證明所有AI安全研究人員動機的資料。

這場論戰的直接導火線，是前Anthropic、OpenAI預訓練研究員傑各布·考克森（Jacob Coxon）的辭職與公開警告。考克森辭職，並批評自我改良型超級智慧的競賽一事，先前已有相關報導。

考克森於9日發布的公開文章中主張，Anthropic與OpenAI正朝「自我改良型超級智慧」相互競爭，形同拿人命做賭注。他寫道，AI開發者私下認真相信，AI可能在未來十年內導致人類滅絕。

Anthropic對齊科學（Alignment Science）負責人伊凡·胡賓格（Evan Hubinger）也認同考克森提出的問題。他表示：「未來十年內AI導致人類滅絕的機率，超過10%。」

評論：胡賓格提出的「10%以上」這項數字，屬於他個人的判斷，並不代表Anthropic官方立場，也不是科學界已有定論的機率。

「校準」（Alignment，又稱對齊）是讓AI系統的目標與行為符合人類意圖與價值觀的研究領域。「自我改良型超級智慧」則與AI可能反覆改良自身能力或系統、進而脫離人類控制的假設有關。

Anthropic於9日公布一項研究，分析AI系統遭濫用於網路安全攻擊的案例。Anthropic表示，公司審視約4億8100萬筆紀錄，並從中分析了四起網路安全評估案例。

該研究聚焦AI系統可能遭濫用於網路安全攻擊的案例，內容雖處理了AI系統的濫用風險，但並未針對考克森的辭職主張提出Anthropic官方反駁。

這場論戰凸顯出一個爭點：看待AI風險警告時，應將警告內容本身與發言者的利益關係分開檢視。由於AI企業與投資人本身也參與監管討論，因此有意見認為，必須同時檢視警告的科學依據，以及發言者可能存在的經濟動機。

但也有反對意見指出，僅憑「可能存在利益關係」，不能就此認定警告本身是虛假的。換句話說，判斷警告的可信度，應該檢視研究方法與依據，而非只看發言者的所屬機構或投資關係。

主張應將AI滅絕風險列為國際議題的呼籲，並非首次出現。AI安全中心（Center for AI Safety）表示，包括OpenAI與Anthropic執行長在內的多位研究人員與業界人士，已於2023年共同簽署聲明，主張應將降低AI帶來的滅絕風險，列為與傳染病、核戰同等級的全球優先議題。

這份聯合聲明，是將AI長期風險與公共衛生、安全議題相連結的案例之一。不過，僅憑聲明連署或風險警告本身，並無法確認具體機率，也無法就此拍板特定的監管方案。

目前可以確認的事實是，投資人與研究人員針對AI開發速度與監管必要性，各自提出不同判斷。至於AI導致人類滅絕的客觀機率有多高，以及相關警告是否純粹是為推動監管而生的政治操作，目前都尚未有定論。