俄勒岡州17日對OpenAI提起訴訟,要求至少20億3500萬美元(約2兆7086億韓元)損害賠償,主張ChatGPT雖被宣傳為對兒童與青少年安全,卻缺乏阻止危險對話及情緒依賴的防護機制。
俄勒岡州司法部表示,已向穆爾特諾默郡巡迴法院(Multnomah County Circuit Court)提交訴狀。訴狀指稱,OpenAI違反該州消費者保護法中的不公平交易行為法,並造成過失、不當得利及公共危害。
訴狀列舉加拿大卑詩省Tumbler Ridge學校槍擊案及佛羅里達州立大學槍擊案,主張涉案加害者曾與ChatGPT進行暴力相關對話。丹·雷菲爾德(Dan Rayfield)俄勒岡州檢察長表示:「OpenAI明知ChatGPT會傷害兒童,卻沒有實質修正這個危險平台。」這項指控將焦點放在OpenAI是否已掌握兒童受害風險,以及平台是否採取實質改善措施。
俄勒岡州司法部請求法院命令OpenAI停止對兒童安全作出不實說明,並導入有效防護措施。OpenAI表示,將持續增設家長控制、休息提醒及按年齡提供的模型防護等安全功能。
Comment 0