山姆·奧特曼：OpenAI要「治理」而非「支配」 強調AI安全優先

OpenAI執行長山姆·奧特曼(Sam Altman)表示，根據他在Y Combinator的營運經驗，企業不該用直接「支配」(rule)的方式管理，而應該透過協調各方利害關係人來進行「治理」(govern)。

奧特曼在接受《財富》(Fortune)雜誌訪問時表示，「不可能每個決定都做對」，同時必須應付來自政府、投資人、競爭對手與AI生態系統的壓力。該訪談於台灣時間15日凌晨0點51分公開。

奧特曼說明，他當年無法直接經營Y Combinator投資的新創公司。他當時的角色是投資人，而非各家公司的經營者，這段經歷讓他學會的是「治理」而非「支配」。

根據Y Combinator官方資料，奧特曼自2014年至2019年擔任該機構負責人。當時投資對象企業的日常決策，都是由各創辦人與經營團隊負責。

奧特曼表示，OpenAI正承受來自政府、投資人、競爭對手與AI生態系統的多重壓力，必須協調政府與生態系統之間的緊張關係。他說明，這意味著OpenAI的決策不僅受產品開發影響，也會受到法規與安全標準的左右。

他表示，即使與公司直接的商業利益或投資人利益相衝突，OpenAI也必須能夠做出以AI安全為優先的決定。換言之，若有必要放緩或暫停AI開發，公司必須能向投資人說明，即使這項決定不利於財務利益。

此番言論也與奧特曼先前談及AI可能失控風險與安全標準不足的訪談相互呼應。他當時表示，現行安全標準尚未達到能夠推動更強大AI能力開發的水準，並表示AI「絕對」有可能脫離人類控制。

OpenAI在9日發布的政策文件中表示，將與其他前沿AI公司共同推動自願性安全標準，並針對AI能力評估、風險管理、人類監督與開發速度調節等議題，推動國際協調做法。文件也將必要時可放緩或暫停模型開發的標準納入討論範圍。

OpenAI於8月18日表示，在評估下一代模型Astra的網路攻擊能力可能達到「重大」等級後，已暫停部分訓練與評估作業。相關工作在轉移至新的安全標準期間暫停執行。

奧特曼所說的「治理」，指的並非直接下令公司每一項決策，而是協調創辦人、投資人、政府與競爭對手等多方利害關係的決策架構。他在Y Combinator期間未直接負責被投資公司日常經營的經驗，正是這番說法的背景。

奧特曼也提到，如果美國總統川普與中國國家主席習近平能就先進AI的共同標準達成協議，兩人可能獲頒諾貝爾和平獎。不過，這番發言並未證實共同標準協商或獎項推薦已經啟動。

Anthropic執行長達里奧·阿莫迪(Dario Amodei)與伊隆·馬斯克(Elon Musk)也曾公開談論AI開發速度與安全問題，但目前沒有資料顯示兩人針對奧特曼的「治理」發言直接做出回應。

OpenAI有關安全標準的討論，與此前OpenAI呼籲建立國家層級AI安全標準的立場一脈相承。該公司過去已要求建立獨立稽核與重大安全事故通報等安全機制。

不過，OpenAI的政策文件僅代表該公司自身提出的方向與立場。目前沒有資料顯示，AI企業間的共同安全標準，或美中之間的合作，已經發展成具有法律約束力的正式協議。

奧特曼此次發言被視為說明OpenAI的營運原則：除了投資人利益外，也必須同時考量AI安全與國際協調。至於具體的共同安全標準或協議簽署時程，目前尚未公布。