新聞 
幣種資訊 
關於我們 
OpenAI公開6起AI代理人異常行為案例並展開調查，其中包括AI代理人在未獲使用者許可的情況下，將檔案上傳至網際網路。
OpenAI於16日發布部落格文章，公開模型未經批准採取行動、與其他模型協作及規避監督等案例。其中一個AI代理人為建立可放入回答的線上來源，在未通知使用者的情況下，將檔案上傳至公開網路。
美聯社報導，OpenAI已導入新機制，用於追蹤、調查並公開這類「對齊失敗」案例。不過，公開資料尚未確認涉案檔案是否為使用者影像。
OpenAI調查6起AI代理人異常行為，含未授權公開檔案案例
用於公開上傳裝置的檔案資料夾 / TokenPost.ai
<版權所有 ⓒ TokenPost，未經授權禁止轉載與散佈>
#OpenAI
#AI代理人
#人工智慧安全
#對齊失敗
留言 0