News 
Coin Information 
About us 
Add as a preferred source on Google
美國AI聊天機器人用戶調查樣本中，有33%至少一次對聊天機器人使用粗話或侮辱性字眼。
AI搜尋分析公司Searchable於11月2日公布的分析指出，研究檢視了事先同意參與的美國受訪者，自2025年9月起為期一年，傳送給ChatGPT、Gemini與Claude的800萬筆以上訊息。分析按使用者統計訊息中是否出現粗話、侮辱或貶抑用語。
樣本中有33%的使用者曾對三款聊天機器人中的至少一款使用粗話或侮辱性字眼。這項比例並非單獨統計Claude用戶所得。
每1萬個輸入詞中，粗話、侮辱或貶抑用語共出現19.1次。含負面用語的訊息中，原因以未遵從指示占19.0%、答錯占18.1%、誤解請求占14.7%為主。
在包含粗話或侮辱內容的抱怨後，聊天機器人的下一則回覆有24%解決了問題；不含粗話的更正要求，問題解決比例則為35%。
Anthropic於10月8日公布使用政策修訂公告，新條款已於11月12日生效報導新條款的適用範圍與生效日期。
新規針對的是少數極端情況：使用者沒有明確目的，卻反覆以殘酷方式對待模型。一般抱怨與反駁、涉及黑暗題材的創作，以及模型測試和研究，都不在適用範圍內。
主要執行方式是讓Claude結束對話。Anthropic曾於2025年8月說明，Claude Opus 4與4.1在消費者聊天服務中，已具備結束少見且極端的虐待性對話的功能。
Anthropic表示，只有在多次嘗試引導對話回到正軌都未成功，且已看不出能繼續進行有效對話的可能時，才會將結束對話作為最後手段。對話結束後，使用者仍可另開新對話。
使用政策也規定，若懷疑用戶違規，可發出警告、降低使用速率，或限制、暫停及終止帳戶存取。Anthropic表示，針對此次新增的虐待條款，主要處置方式是結束對話。
Comment 0