OpenAI提議國際AI安全標準，納入RSI與事故通報

OpenAI提議制定涵蓋遞迴式自我改進（RSI）測量、AI事故通報與人類監督的國際人工智慧（AI）安全標準，呼籲各國建立共同評估與通報制度，以共同因應跨境AI風險。

OpenAI於21日公布政策提案指出，AI開發正擴展至多家企業與多個國家，各國應協調評估與通報標準。若標準不一，將難以比較同一AI系統的風險，也難以共同處理事故。

第一項討論重點是遞迴式自我改進（RSI），指AI參與下一代AI的開發，導致人類介入程度下降。OpenAI表示，有必要制定測量標準，以評估自動化AI研究需要何種程度的人類監督，以及哪些情況必須立即檢視。

OpenAI表示，目前並未進行完全自主的遞迴式自我改進，在能夠安全執行前，不應追求這一方向。這反映出AI開發速度可能超越人類理解與控制能力的疑慮。

第二項核心領域是事故分類與通報。OpenAI提議共同分類、追蹤及通報對齊失敗，以及自動化AI研究過程中發生的事故，並共同制定事故嚴重程度與通報標準。

OpenAI於16日公布的模型失準通報架構，也涵蓋模型訓練、評估、測試與部署過程中發生的問題。公開案例應記錄行為、嚴重程度、外部影響、發生時間與調查範圍；即使問題尚未完全解決，必要時也可進行通報。

第三項是國際合作架構。OpenAI提議運用美國人工智慧標準與創新中心（CAISI）於2024年成立的國際AI測量、評估與科學網絡，與美國、英國、德國、法國、日本、台灣、新加坡及印度等地的AI安全機構合作。

這項提案也與OpenAI於9日公布的另一份政策文件相連。OpenAI當時表示，美國國會應制定以能力為基礎的強制性國家AI安全規範，並以美國標準作為引領國際標準的基礎。

不過，這次提案並非具體法案或國際協定草案，也沒有規定AI模型上市許可或強制事前審查。各國政府仍將自行決定如何把國際標準納入本國法律體系。

OpenAI表示，共同標準不應有利於特定企業、國家或商業模式，也不應以限制新創企業與開放模型開發者競爭的方式運作。

歐盟目前要求具系統性風險的通用AI模型提供者追蹤、記錄重大事故，並向相關機構通報。歐盟執委會公布依《AI法》第55條制定的重大事故通報表格後，相關義務進一步具體化。

因此，OpenAI的構想既可能成為建立以美國為中心的新標準的提議，也可能延伸為讓美國與歐洲監管架構相互兼容的討論。不過，未來由哪個機構主導國際標準，以及各國是否接受相同標準，目前都尚未確定。

AI業界對共同安全標準與獨立評估的必要性持續展開討論。美聯社報導，OpenAI與Anthropic等主要AI企業人士正就安全標準及控制開發速度等議題進行共同討論。

另一方面，也有意見認為，企業提出的標準必須接受獨立機構驗證。社群平台上出現批評，認為OpenAI一方面要求監管，另一方面也試圖影響標準設計；另有說法指出，對大型企業有利的監管可能提高新競爭者進入市場的難度。這些均是社群平台使用者的反應，尚未獲得獨立事實確認。

國際AI安全標準的討論，也延續OpenAI長期要求制定國家級AI安全標準的政策方向。該公司過去主張引入獨立稽核與重大安全事故通報等安全措施，如今相關政策方向進一步延伸至國際標準討論。

若未來相關內容納入國際標準或各國監管規範，企業的AI模型開發、評估與事故通報流程可能受到影響。AI模型驗證與網路安全也涉及金融、交易所及錢包基礎設施，但這項提案並未直接影響加密貨幣價格或交易市場。

OpenAI的提案目前不是美國政府或國際組織採納的正式標準，而是一項政策構想。各國政府與獨立評估機構是否將相關測量與通報架構納入實際監管及標準，仍有待觀察。