Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

程式碼80%由AI撰寫:Anthropic、OpenAI擴大研究自動化,RSI仍未確認

設計AI安全實驗的研究空間 / TokenPost.ai (macro)

Anthropic與OpenAI提高人工智慧(AI)模型在研究開發流程中的參與程度,但目前仍未確認AI能在沒有人工監督的情況下設計、開發後續模型,也就是遞迴式自我改進(RSI)。兩家公司表示,AI執行部分研究任務,與完全自主的自我改進之間仍存在差距。

Crypto Briefing於22日根據社群媒體貼文與公開市場資料分析指出,Anthropic與OpenAI在讓AI模型變得更小、更聰明且成本更低的過程中,正逐步接近RSI。不過,這項分析並不代表兩家公司已正式宣布達成RSI。

RSI不僅指AI改善自身效能,也包括AI參與下一代模型的設計與開發。現階段由人類設定研究目標與評估標準、AI負責撰寫程式碼和進行實驗,雖然包含RSI的部分要素,但仍不同於完全自主的開發。

Anthropic在官方分析中表示:「我們尚未達到那個階段,而且遞迴式自我改進也不是必然會發生。」不過,隨著AI參與自身開發流程的比例提高,Anthropic也未排除比預期更快接近RSI的可能性。

Anthropic表示,截至2026年5月,旗下程式碼儲存庫中超過80%的合併程式碼由克勞德(Claude)撰寫。不過,公司也補充,僅憑程式碼行數,無法完整判斷程式碼品質與實際生產力提升幅度。

Anthropic說明,2026年第二季每名工程師每天合併的程式碼數量,已達2024年的8倍。這項數據顯示AI在程式碼撰寫與合併流程中的使用程度提高,但不代表研究方向已由AI自行決定。

AI執行研究流程的範圍也在擴大。Anthropic公開一項案例,顯示以克勞德為基礎的代理在AI安全相關的開放式研究任務中,提出假設並設計實驗。

在這項案例中,研究主題與評估標準由人類設定。代理負責細部實驗的設計與重複執行,但研究什麼,以及依據何種標準判斷結果,仍受人類控制。

OpenAI也在9月發布的官方文章中表示,已達成讓「自動化研究實習生」在人工指示下執行通常需要數天完成的研究任務。OpenAI公開的研究加速資料說明,這一階段以人類設定目標與監督為前提。

OpenAI表示,長期目標是建立能在人類監督下推進深度學習與對齊研究的自動化研究員。同時,公司也說明,完全自主的RSI尚未發生,能否維持人類控制是重要條件。

近期AI模型競爭不只聚焦於效能,模型開發流程的自動化程度也受到重視。Anthropic與OpenAI將AI投入模型程式碼撰寫、實驗設計與結果評估後,研究人員的角色正從直接執行,逐漸轉向設定目標與進行驗證。

不過,研究速度提升與自主性擴大並不代表同一件事。AI更深入參與下一代模型開發,可能加快實驗進程,但也可能讓人類更難充分理解模型的運作方式與改進方向。

OpenAI已將RSI相關安全研究與自動化監控機制列為獨立任務。Anthropic也表示,隨著AI能力增強,必須檢視失去人類控制的風險。

這場討論與其說代表Anthropic與OpenAI已解決RSI,不如說顯示AI研究開發自動化正在快速推進。要判斷是否真正達成RSI,仍須等兩家公司公開具體成果,證明後續模型的設計、訓練與評估能在沒有人類介入的情況下完成。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1