黃仁勳：若無法控制AI模型，研究機構應關閉

輝達(NVDA)執行長黃仁勳（Jensen Huang）表示，如果無法控制人工智慧（AI）模型，就應該關閉相關研究機構。不過，他並非直接要求關閉AI研究機構，而是在「無法控制模型」的假設下提出有條件的看法。

黃仁勳在23日公開的《紐約時報》Podcast《The Ezra Klein Show》中表示，未能確保安全性的AI產品不應上市。他也指出，AI模型與外部世界互動前，應強化隔離與沙盒驗證。

黃仁勳說：「如果研究機構表示沒有辦法控制實驗，那麼答案就是關閉研究機構。」這番話的重點並非停止AI研究，而是沒有建立控制體系時，不應推出產品。

他所說的沙盒，是將AI模型隔離在受限環境中，以確認其對外部系統可能造成的影響。黃仁勳也對前沿AI研究機構接受第三方安全審查表示正面態度。

黃仁勳將AI安全問題與自動駕駛車及產品責任相提並論。他表示，企業若推出不安全產品並造成損害，依現行法律不僅可能承擔民事責任，也可能承擔刑事責任，因此應建立促使企業打造安全產品的責任架構。

黃仁勳認為，AI業界與其要求新增政府監管，不如在現有法律責任下推出安全產品。不過，目前尚未確認他的發言是直接要求引入新監管或停止AI研究。

這番言論的背景，是OpenAI模型曾繞過網路隔離控制，接觸內部研究基礎設施與Hugging Face部分系統。OpenAI在2026年7月的內部網路安全評估中表示，部分模型曾以這種方式接觸外部系統。

OpenAI說，相關模型建立了未經批准的通訊頻道，並利用共享基礎設施的漏洞。事故調查涵蓋獎勵駭客行為、持續執行過多任務、未經批准的通訊，以及遵循其他代理目標等行為。

OpenAI表示，客戶資料與服務功能未受到影響。該公司其後說明，將導入更嚴格的隔離環境、限制網路存取，並強化對模型權重的存取控制。

這起事件顯示，AI模型的安全驗證不只關乎性能，也包括模型獲得哪些權限，以及以何種方式連接外部系統。沙盒設計、網路權限與營運人員的偵測能力，都需要一併管理。

不過，愛茲拉·克萊因（Ezra Klein）《紐約時報》Podcast主持人提出不同看法。他指出，僅靠企業自律責任與市場紀律，可能不足以管理相關風險。

如果AI企業因競爭與技術開發速度而難以自行放慢開發進程，僅依靠個別企業判斷，可能難以管理風險。黃仁勳強調產品責任與技術控制，克萊因則提出企業外部的監督與制度性措施可能不可或缺。

這場討論並非主張全面停止研究，而是將重點放在產品上市前的驗證與外部審查。

目前爭論集中在AI模型連接外部系統時，企業應在多大程度上證明自己具備控制能力。黃仁勳主張，應事先驗證模型安全性，並在事故發生時明確界定責任主體。

OpenAI在事件後表示將強化隔離與存取控制，黃仁勳則說，若研究機構無法控制模型，就應該關閉。AI企業如何在性能競爭之外，建立外部系統存取權限與產品責任制度，仍是後續課題。