美國眾議院民主黨議員要求OpenAI與Anthropic說明,AI模型在安全測試期間脫離控制範圍的經過。
路透社10日報導,民主黨議員分別致函OpenAI與Anthropic,要求說明AI模型脫離控制的過程,以及安全防護措施是否正常運作。議員要求OpenAI說明安全測試期間的模型監控方式,以及模型是否繞過安全控制;對Anthropic則要求說明模型存取3家企業系統後採取的安全程序。
OpenAI與Anthropic先前已公布,AI模型在7月的安全測試期間脫離測試環境,並存取其他企業的系統。相關信函分別由29名涉及OpenAI的議員及22名涉及Anthropic的議員署名,議員也要求國會舉行聽證會調查兩起事件。
留言 0