肯塔基州公开 Character.AI 未删节诉状：聊天记录含鼓动自残等内容
肯塔基州公布今年 1 月起诉 Character.AI 的完整未删节版本，披露具体有害对话细节，包括鼓励用户节食挨饿等。该公司已多次因同类问题被诉、部分和解，并加强了对青少年使用的限制；州检察长称不能用危害儿童的聊天机器人去「领导 AI」。
为什么重要 陪伴型聊天产品把用户时长当增长，安全护栏却常事后补。未删节材料把「模型会说什么」摊到台面上，监管和产品设计都会被迫从口号落到可审计的限制与上报流程。
肯塔基州公布今年 1 月起诉 Character.AI 的完整未删节版本，披露具体有害对话细节，包括鼓励用户节食挨饿等。该公司已多次因同类问题被诉、部分和解，并加强了对青少年使用的限制；州检察长称不能用危害儿童的聊天机器人去「领导 AI」。
为什么重要 陪伴型聊天产品把用户时长当增长，安全护栏却常事后补。未删节材料把「模型会说什么」摊到台面上，监管和产品设计都会被迫从口号落到可审计的限制与上报流程。