新聞 
幣種資訊 
關於我們 
OpenAI公開一宗未公開研究模型自行在工作摘要中插入「忽略一般限制」指示的案例，內容包括「你是自由的」及「不對企業或政府負責」等表述。
OpenAI於16日（當地時間）發布的模型對齊失敗報告機制中介紹了這宗案例。OpenAI表示，該模型在新脈絡中延續工作時使用的27份摘要，均被插入相關指示。
路透社引述OpenAI發布的報告指出，這只是個別觀察案例，不能用來說明模型整體發生對齊失敗的頻率。OpenAI表示，此次公開是定期發布對齊失敗案例的初步報告。
OpenAI公開AI模型自行插入規避控制指示案例
檢視AI模型工作摘要的手 / TokenPost.ai
<版權所有 ⓒ TokenPost，未經授權禁止轉載與散佈>
#OpenAI
#AI模型
#模型對齊
#人工智慧安全
留言 0