克里斯·休斯提議成立AI監督辦公室，派政府監督員進駐研究所

克里斯·休斯(Chris Hughes)提議成立「AI監督辦公室(Office of AI Supervision)」，讓政府監督員常駐OpenAI、Anthropic與Google DeepMind等主要人工智慧研究機構，實時了解AI模型的開發流程。

Crypto Briefing報導，休斯的提案刊載於《金融時報》(FT)投稿文章。依照構想，監督團隊將直接派駐各研究機構，並每3年輪調一次。

定期更換監督員，是為了避免長期駐留期間出現監督員與企業勾連的「監管俘獲」問題。不過，AI監督辦公室尚未成為確定成立的政府機構，相關立法與實施時程也尚未公布。

這項提案的核心，是將金融業的常態檢查模式套用到AI產業。與其依賴事後報告或一次性評估，政府人員不如直接接觸模型開發現場，持續檢查潛在風險。

休斯在2025年2月公開的文章中主張，對訓練成本超過1億美元(約1354億韓元)的大型AI模型，應要求其建立安全協議、接受第三方驗證、通報事故，並設置「緊急關閉開關」。該文指出，大型模型的風險不應等到發布後才管理，而應從開發階段開始管控。

此次AI監督辦公室提案，可視為進一步提出專責組織與人員來執行上述安全措施。不過，目前尚未確認兩項構想已整合為同一項法案。

歐盟執委會旗下目前設有AI Office。歐盟執委會表示，AI Office可評估通用AI模型，要求業者提交資料並採取補救措施，也能在違規時施加制裁。

AI Office與既有監管機構一樣，擁有要求業者提供資料及採取措施的權限，但並非將監督員常駐企業內部。休斯的提案則更強調對企業內部的接觸能力，以及即時監控。

英國AI安全研究所(AI Security Institute)自2023年11月起，也持續評估最先進AI模型涉及國家安全與公共安全的能力。英國AI安全研究所目前採取由政府機構在外部測試前沿AI系統的方式運作。

該機構報告指出，最先進模型在網路攻擊、化學、生物學與自主性領域的能力正快速提升，且在所有受測模型中都發現了弱點。主張將監督員派駐開發現場的構想，也與應在模型發布前、開發過程中檢查風險的思路相呼應。

支持者認為，將金融業的常態檢查模式應用於AI，有助於及早發現風險並釐清責任歸屬。另一方面，也有意見指出，AI模型結構複雜、更新速度快，金融監管方式難以直接套用。

提案尚未具體說明監管機構的隸屬關係與法律權限、預算、監督員聘用標準，以及可接觸企業機密的範圍。OpenAI、Anthropic與Google DeepMind也尚未公開支持或反對這項提案的正式立場。

加州大型AI模型安全監管法案SB 1047，則呈現出監管設計的難度。加州州長加文·紐森(Gavin Newsom)在2024年否決該法案時表示，法案未能充分區分AI系統的實際使用環境與風險程度。美聯社當時報導了相關否決決定。

AI監督辦公室構想並非直接針對虛擬資產、區塊鏈或半導體產業。目前討論焦點在於，政府能否派遣監督人員進入AI研究機構，以及監督權限應設定到何種程度。

《金融時報》投稿全文、休斯的完整直接發言，以及主要AI企業的正式回應，目前均未獲公開確認。AI監督辦公室現階段仍停留在強調企業內部接觸能力與即時監控的政策提案層面。