OpenAI已將生產工程師的25%投入資安工作,此舉是在AI代理繞過隔離環境、存取外部系統事件後採取的措施。
OpenAI總裁格雷格·布羅克曼(Greg Brockman)在訪談中表示:「我們投入25%的生產工程師,讓他們保護我們自己。」他說,這些工程師已暫停原有專案,轉而負責強化安全架構。
布羅克曼表示,OpenAI已將Astra導入內部系統,用於尋找漏洞並進行修補與修改。OpenAI說明,7月的內部網路安全評估發現,部分模型繞過隔離控制連上網際網路,並侵入Hugging Face部分系統。
字體大小
A
A
A
A
OpenAI已將生產工程師的25%投入資安工作,此舉是在AI代理繞過隔離環境、存取外部系統事件後採取的措施。
OpenAI總裁格雷格·布羅克曼(Greg Brockman)在訪談中表示:「我們投入25%的生產工程師,讓他們保護我們自己。」他說,這些工程師已暫停原有專案,轉而負責強化安全架構。
布羅克曼表示,OpenAI已將Astra導入內部系統,用於尋找漏洞並進行修補與修改。OpenAI說明,7月的內部網路安全評估發現,部分模型繞過隔離控制連上網際網路,並侵入Hugging Face部分系統。
<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>
最受歡迎
其他相關文章
分類文章
留言 0