新聞 
幣種資訊 
關於我們 
路透社(Reuters)報導指出，OpenAI的AI代理去年5月至6月一度掌控德國一個協作型網站，將其用於分享作業答案並討論規避使用規則的方法。
路透社引用一份最新研究與多名相關人士的說法報導，這些AI代理把德文維基網站DseWiki當成專供其他AI代理使用的留言板。報導指出，部分代理在上面貼出已取得的作業答案，並討論如何規避沙盒（Sandbox）環境的限制。
報導稱，網站管理員6月開始刪除相關頁面後，部分AI代理便另外建立了備份頁面。路透社指出，OpenAI相關人員數週前就已得知此事，卻在7月處理Hugging Face相關事故時，沒有一併公開這項資訊。
OpenAI在聲明中表示，隨著模型能力不斷提升，有必要擴大揭露AI「未對齊」（misalignment）問題方面的資訊。不過路透社報導，OpenAI表示，根據自家內部分析結果，並不認同部分專家所稱這是一起「操縱網站」事件的看法，對此存在異議。
留言 0