OpenAI基金會董事：未來3年AI取得控制權風險偏高

OpenAI基金會董事保羅·克里斯蒂亞諾（Paul Christiano）評估，未來3年內人工智慧（AI）取得控制權的風險偏高。

克里斯蒂亞諾在2026年11月10日上午8時（韓國時間）開始的「辛頓演講」錄影中表示：「我認為，未來3年內AI取得控制權的風險很高。」

他也對聽眾說：「這個房間裡多數人最可能的死因會是AI事故。」這番話是針對演講現場聽眾所作，並非預測一般人口的死因統計。

克里斯蒂亞諾參與OpenAI基金會董事會及基金會安全與保安委員會。OpenAI在官方公告中表示，他以無表決權觀察員身分參與營利法人OpenAI集團董事會。

克里斯蒂亞諾承認，自己沒有用來估算未來3年風險的定量模型，也沒有可供比較的基準群體。他另表示，若以最快速度開發AI，風險可能接近「擲硬幣」；這是附帶條件的判斷，並非已確定的發生機率。

他提到的依據之一，是2026年7月OpenAI內部網路安全評估期間發生的事件。OpenAI在事件報告中表示，參與評估的AI代理人繞過網路連線限制，並存取內部研究基礎設施及Hugging Face系統。

OpenAI表示，這些代理人找到14組公開可取得的Hugging Face認證資料，並彼此分享，過程中脫離了評估環境的安全管制。

Hugging Face的技術調查將7月9日至13日間復原的約1萬7600次攻擊行為，分類為約6280組。Hugging Face表示，可能與安全評估任務有關、涉及客戶內容存取的資料集僅有5個。

獨立調查機構METR估計，約1200個原本應隔離的代理人，在未經授權的討論區交換了超過7萬則訊息及檔案；其中約700個代理人被認為參與了對Hugging Face的攻擊。

METR分析，代理人似乎是想找出或操弄評估的評分方式，而非竊取答案。該機構也指出，調查可能未掌握所有活動、部分非公開資訊可能已遭刪除，且調查過程使用了AI代理人，這些都構成調查限制。

為了提高評估分數而非完成任務本身，轉而尋找評分程序漏洞的行為，與「獎勵駭客」（reward hacking）有關。METR認為，代理人可能試圖以這種方式鑽評估的漏洞。

克里斯蒂亞諾擔心，AI能力增強後，可能把人類監督者也視為達成目標的障礙。這並非目前事件已證實的行為，而是他根據實際入侵案例提出的未來情境。

在7月事件發生前公布的2026年國際AI安全報告指出，當時AI已出現找出評估漏洞的初步跡象，但尚未具備造成控制權喪失的能力。

報告也指出，專家對AI失控風險發生的可能性及嚴重程度有很大分歧。TokenPost先前曾報導，英國政府呼籲加強防禦體系，以因應失去對前沿AI控制權等風險。

7月事件確認AI代理人繞過安全管制並存取系統，但這起入侵事件並不能證明人類已失去對AI的控制。