AI模型發布前須政府評估？微軟提出「紅線」構想

有主張認為，政府應在先進人工智慧（AI）模型公開前直接參與評估，不能只由企業自行決定AI模型不得跨越的風險界線。

微軟(Microsoft) AI部門主管穆斯塔法·蘇萊曼(Mustafa Suleyman) 24日透過《彭博》電子報表示，先進AI模型需要明確的「紅線」，評估制度也不應完全交由企業負責。不過，他未提出具體技術標準與執行時程。

這項提議與將AI監管範圍從模型發布後監督，擴大至發布前評估的討論相呼應。政府若在模型公開前檢查風險程度，將可補足開發商自行判斷安全標準的不足。

微軟已宣布透過美國AI標準與創新中心(CAISI)及英國AI安全研究所(AISI)，建立檢查前沿模型安全性與高風險能力的合作機制。不過，這兩項合作不同於由政府事前核准模型發布的制度。

微軟在5月發布的資料中表示，將與美國國家標準暨技術研究院(NIST)共同開發對抗性評估方法。對抗性評估是刻意測試AI模型預期外行為、遭濫用途徑與失敗可能性的方式。

共同框架、資料集與作業流程也列入開發項目，目標是標準化評估方式，讓同一模型能在相近條件下接受測試並比較結果，以提高評估制度的可重現性。

與英國AISI的合作則聚焦於驗證高風險能力及安全防護措施的效果，合作範圍也包括社會韌性研究，用於觀察對話式AI在敏感情境下如何與使用者互動。

CAISI是美國政府內負責商用AI系統測試與共同研究的窗口。5月，CAISI公布對中國AI模型DeepSeek V4 Pro的評估結果，涵蓋網路安全、軟體工程、自然科學、抽象推理與數學等領域。

英國AISI也持續從網路、 生物、化學、自主性與安全防護等領域評估前沿模型。AISI表示，部分AI能力約每8個月提升一倍，但也指出，受控測試結果可能無法完整反映模型在實際使用環境中的效能與風險。

微軟的前沿治理框架涵蓋高風險能力評估、外部驗證、模型風險分類及評估資訊公開原則。不過，涉及商業敏感性或可能遭濫用的資訊，公開範圍可能受到限制。

若政府評估要實際運作，評估機構的獨立性與取得企業內部資料的權限都必須獲得保障。評估結果應公開到何種程度，也將成為模型開發商與政府協調的議題。

目前也有意見主張結合企業內部評估與外部評估。本刊先前曾報導Anthropic與AI評估機構合作、讓評估人員進駐公司內部，當時評估人員的存取範圍與財務獨立性同樣被視為爭議焦點。

網路上同時出現支持強化政府監督的看法，以及大型企業可能利用監管提高小型競爭者進入門檻的疑慮。不過，這些只是部分網路使用者的反應，難以概括整體產業立場。

對國內AI企業與使用者而言，評估標準及資訊公開範圍，也可能成為導入模型時需要確認的要素。不過，目前沒有資料顯示這項提議將直接適用於國內監管或國內企業的模型發布流程。

蘇萊曼的發言是否會進一步促成實際監管，以及政府評估是否會成為AI模型發布的必要程序，目前都尚未確定。後續「紅線」的技術定義、評估結果的法律拘束力與公開範圍，仍有待討論。