Anthropic表示,責任擴展政策中的「AI驅動快速進展」門檻可能很快達成;不過,這項判斷是根據內部估算與對未來模型的預測,目前沒有任何現行模型被指定為已超標。Anthropic於2026年11月2日向美國證券交易委員會(SEC)提交的修訂註冊聲明揭露了這項評估,公司也表示仍在持續檢視相關基礎數據。
Anthropic在聲明中警告,AI協助研發可能讓模型能力提升得比安全、對齊與資安措施的開發和驗證更快。公司也披露,過去曾在開發速度已大幅加快後,才察覺加速情況。
Anthropic的責任擴展政策(Responsible Scaling Policy,RSP)將AI研發自動化帶來的快速進展納入評估。依照政策標準,AI整體能力的發展速度須達到兩項基準的兩倍:一是沒有顯著AI研發貢獻時預期的速度,二是長期觀察到的最高速度。此外,這種加速須很可能主要來自研究與工程自動化,且趨勢若延續,預期還會進一步加快。
這項標準衡量的是AI整體能力的進展速度,並非個別研究人員的生產力翻倍;政策也會區分由人力或運算資源增加所能解釋的變化。
遞迴式自我改進(RSI)是指AI協助研究和開發後續AI,而新模型又進一步協助下一代模型開發的循環。Anthropic稱這個過程為「閉合開發循環」。
Anthropic目前將Claude用於新模型實驗、訓練資料生成與處理、評估、安全稽核自動化,以及程式碼撰寫與審查。公司表示,模型參與開發流程中的多項工作,也能支援下一代模型的研究、訓練與測試。
修訂註冊聲明指出,2026年9月Anthropic程式碼儲存庫中超過90%的貢獻程式碼由Claude撰寫。這個比例指的是程式碼貢獻,並不代表Claude獨立完成了整個模型開發。
Anthropic表示,在截至2026年9月30日的三個月內,每位工程師每日平均程式碼貢獻量,超過2024年全年平均值的45倍。公司將增幅歸因於工程師的工作方式改變:從逐行撰寫程式碼,轉為指示Claude執行工作並審查結果。
在另一項內部基準測試中,Claude於2026年9月面對缺乏明確規格的開放式工程問題,成功率約為90%,較9個月前提高約50個百分點。
Anthropic也在聲明中表示,旗下模型越深入參與研究與程式碼撰寫,現有模型的缺陷或偏誤就越可能延續到後續模型;若問題跨世代累積,可能更難發現或修正。
公司指出,若利用AI開發更強大的AI使進展急遽加速,可能帶來重大安全風險。當模型能力提升速度超過安全、對齊與資安措施的進展時,風險評估與緩解可能更加困難。
Anthropic表示,即使技術上可行,公司也不預期在缺乏有意義的人類監督或理解下,安全地讓Claude完全自主設計和建構後續先進模型。這項說明不代表目前AI已在沒有人類監督的情況下完成下一代模型。
Anthropic正在檢討責任擴展政策,以維持前沿模型開發中的人類控制,並評估達到AI研發能力門檻的意義。現行政策為2026年7月8日生效的3.4版;公司表示,待持續評估門檻意義後,將依政策發布後續報告。
留言 0