OpenAI證實旗下開發中的AI模型Astra可能具備「致命網路能力」,因此已放緩部分開發與評估作業的進度。
根據OpenAI於8月7日發布的部落格文章,公司內部評估發現,Astra在代理式程式撰寫(agentic coding)與網路安全能力上取得顯著進展,依照自家的「準備框架(Preparedness Framework)」,無法排除其已達到致命網路能力等級的可能性。
OpenAI在8月18日另一篇文章中說明,公司對Astra及其他網路相關模型的研發,已採用最嚴格的安全標準。部分Astra的訓練與評估作業已符合新標準並持續進行,但相當比例的作業則暫停,須等待遷移並強化至新的安全環境後才會恢復。
科技媒體TechCrunch於8月7日報導,OpenAI在內部審查後已中止Astra部分作業。OpenAI同時表示,Astra並未涉入先前的Hugging Face資料外洩事件。
留言 0