AI滅絕機率超過10%？薩克斯批評是「恐懼行銷」

人工智慧（AI）可能在未來十年內導致人類滅絕的機率超過10%，這項主張近來掀起激烈爭論。大衛·薩克斯(David Sacks)與All-In Podcast的其他主持人齊聲反駁，認為這個數字與其說有客觀依據，不如說更像是一場「恐懼行銷」。

All-In Podcast於12日公開的YouTube影片中，深入討論了AI安全爭議與監管問題。擔任Craft Ventures合夥人的大衛·薩克斯(David Sacks)在節目中質疑：「AI滅絕人類的機率是10%？這個數字到底是怎麼算出來的？」他的語氣透露出對這項主張缺乏根據的不滿。

這場爭論源自Anthropic（安索羅普）前研究員賈各布·考克辛(Jacob Coxin)的主張。他指出，AI開發公司明知人類滅絕的可能性，卻仍持續投入開發難以控制的AI技術，形同一場軍備競賽。Anthropic對齊科學負責人艾文·胡賓格(Evan Hubinger)呼應了考克辛的說法，並表示未來十年內AI導致人類滅絕的機率超過10%。

包括美國聯邦參議員伯尼·桑德斯(Bernie Sanders)在內的多位政治人物引用這篇貼文，宣布將推動立法喊停超級智慧AI的開發。不過，這個10%的數字並非官方統計，而是研究人員的個人判斷。

薩克斯主張，10%這個數字並非源自客觀研究數據或內部資料，只是單純的「直覺」。他表示，相關貼文發布後不久，《華爾街日報》（WSJ）便以預先簡報的方式進行報導，隨後特定團體又在短時間內大量擴散該貼文，種種跡象看起來像是一場有組織的操作。

薩克斯進一步指稱，涉嫌參與擴散貼文的團體，與獲得Anthropic主要投資人揚·塔林(Jaan Tallinn)資助、傾向「有效利他主義」的網絡有所關聯。不過，這僅是節目主持人提出的個人解讀，並未獲得證實。

節目主持人傑森·卡拉卡尼斯(Jason Calacanis)則表示，現階段的AI連自動完成Python程式碼、訂房或叫外送等基本工作都無法完美處理。他認為，目前的技術水準與「人類滅絕」的情境之間存在巨大落差。

卡拉卡尼斯解釋，可以在軟體中加入控制機制，要求AI執行任務前必須經過人類核准。他舉例，在開發過程中，可以設計成使用者必須按下空白鍵才能進入下一步驟。

Production Board執行長大衛·弗里德柏格(David Friedberg)表示，目前核心系統已採用與網路實體隔離的「氣隙」（air gap）以及人工介入程序。氣隙是指將系統與外部網路切斷的資安做法，人工介入則是指AI執行任務過程中，由人類負責核准的機制。

與會者也擔憂，AI安全法規可能限制開源模型的公開與使用。薩克斯主張，封閉式AI公司可能會要求成立聯邦AI監管機構，藉此阻止缺乏因應法規能力的開源AI公開與託管。

弗里德柏格表示，開源AI是降低開發成本、擴大技術普及的重要手段。他認為，若限制開源AI，恐將強化以政府與大型企業為中心的控制結構。

Social Capital執行長查馬斯·帕里哈皮堤亞(Chamath Palihapitiya)則將Anthropic一方面承認AI具致命風險、一方面又推動首次公開募股（IPO）的做法，比喻為過去菸草公司的行徑。他警告，Anthropic若未在向美國證券交易委員會(SEC)提交的證券申報文件中明確揭露風險，恐將面臨產品責任相關的法律風險。

薩克斯也認為，企業高層一邊主張自家產品可能終結文明，一邊又對外募集資金，本身就是自相矛盾。帕里哈皮堤亞分析，部分研究人員可能陷入集體妄想，或涉入針對封鎖開源AI而發起的組織性操作。

本刊先前已報導，AI滅絕論擴散過程中存在人為操作的可能性。當時薩克斯與凱茜·伍德(Cathie Wood)也曾對相關警訊的擴散路徑提出質疑，但同樣強調該主張尚未獲得證實。

這場爭論也延伸至該如何評估AI風險機率，以及開源模型的公開範圍應設在何處。10%這項數字並非官方統計，而是研究人員個人判斷提出的推估，與會者則主張，技術控制機制與監管可能帶來的副作用，同樣需要一併檢視。