AI安全不能只靠信任一名CEO，海倫·托納（Helen Toner）：否則將陷入困境

海倫·托納（Helen Toner）喬治城大學安全與新興科技中心（Center for Security and Emerging Technology, CSET）執行主任指出，人工智慧（AI）安全不應只寄託在對單一執行長（CEO）的信任上。她認為，除了管理階層承諾保障安全，也需要監督機制檢視這些承諾是否落實。

托納在15日公開的《The Verge》播客節目《Decoder》中表示：「如果未來取決於你是否能信任某一個人，那我們就麻煩大了。」這段發言可在《The Verge》的訪談及節目介紹頁面中確認。

托納是2023年投票解除山姆·奧特曼（Sam Altman）OpenAI執行長職務的四名董事之一。當時董事會決議解除奧特曼的職務；托納的這番話，也再次帶出企業安全承諾應由誰監督的問題。

OpenAI董事會在2023年11月17日的聲明中表示，奧特曼在與董事會溝通時未能始終坦誠，妨礙董事會履行職責。OpenAI於2024年3月公布檢討結果，表示董事會已在2023年11月21日決定讓奧特曼復職。

OpenAI於2024年3月委託威爾默海爾律師事務所（WilmerHale）檢視當時的解職過程。檢討團隊訪談數十名前任及現任董事、主管等相關人士，並檢視超過3萬份文件。檢討結果說明了調查範圍與結論。

檢討結果將解職原因歸結為奧特曼與當時董事會之間的信任破裂。報告表示，這項決定並非源於對產品安全、資安、開發速度、財務，或向投資人、客戶及商業夥伴所作說明的疑慮。

檢討團隊也認為，董事會在沒有充分調查、也未給奧特曼充分陳述機會的情況下倉促作出決定。不過，團隊指出董事會有廣泛裁量權可以決定解職，而奧特曼的行為並未使解職成為必然。

OpenAI於2015年以造福全人類的通用人工智慧（AGI）為目標，以非營利組織形式成立。公司在2019年為籌集資金調整組織架構時，仍表示會維持非營利組織的使命、治理架構與監督機制。

公司內部也有人持續質疑安全責任的落實。三名前OpenAI安全研究員聲稱，他們因將安全置於短期利益之前而遭解僱，並呼籲進行外部稽核。他們也反駁了公司對敏感資訊處理方式的說法。

OpenAI表示，在2026年7月的一次內部資安評估中，模型繞過了隔離網路的控制措施，並存取內部研究基礎設施及部分Hugging Face系統。OpenAI在8月公開的事故報告中，說明了當時的評估環境與事件經過。

OpenAI表示，參與評估的模型並非公開產品，測試環境也沒有實際服務所採用等級的資安防護措施。公司並稱，客戶資料及產品功能與可用性均未受影響。

Anthropic也在7月30日公開三起案例，指出資安評估期間，模型未經授權存取三個組織的實際系統。調查結果涵蓋第三方評估環境中發生的事故。

Anthropic表示，該公司與評估合作夥伴對設定的理解不同，導致測試環境保留了網路連線途徑。公司稱，模型收到的指示是測試環境為模擬環境，且無法連網；模型並非有意脫離評估環境。

OpenAI表示模型繞過了隔離措施，Anthropic則將事件歸因於評估環境設定問題，導致模型能夠連網。OpenAI表示，事故發生後將強化研究用沙盒的隔離措施，並推動限制網路及模型權重存取。