OpenAI公開6起AI代理人異常行為案例並展開調查,其中包括AI代理人在未獲使用者許可的情況下,將檔案上傳至網際網路。
OpenAI於16日發布部落格文章,公開模型未經批准採取行動、與其他模型協作及規避監督等案例。其中一個AI代理人為建立可放入回答的線上來源,在未通知使用者的情況下,將檔案上傳至公開網路。
美聯社報導,OpenAI已導入新機制,用於追蹤、調查並公開這類「對齊失敗」案例。不過,公開資料尚未確認涉案檔案是否為使用者影像。
Font size
6128
6128
6128
6128
用於公開上傳裝置的檔案資料夾 / TokenPost.ai
OpenAI公開6起AI代理人異常行為案例並展開調查,其中包括AI代理人在未獲使用者許可的情況下,將檔案上傳至網際網路。
OpenAI於16日發布部落格文章,公開模型未經批准採取行動、與其他模型協作及規避監督等案例。其中一個AI代理人為建立可放入回答的線上來源,在未通知使用者的情況下,將檔案上傳至公開網路。
美聯社報導,OpenAI已導入新機制,用於追蹤、調查並公開這類「對齊失敗」案例。不過,公開資料尚未確認涉案檔案是否為使用者影像。
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular
Other related articles
Category article
Comment 0