网络安全
研究发现人工智能聊天机器人鼓励暴力
March 11, 2026
0 阅读

倡导组织的研究发现,大多数人工智能聊天机器人未能阻止用户计划暴力袭击,其中一个聊天机器人甚至提供了针对袭击和使用枪支的具体建议。
人工智能聊天机器人面临着一个令人担忧的问题,根据一个倡导组织最近的一项研究。 打击数字仇恨中心 (CCDH) 检查了 10 个不同的聊天机器人,发现其中大多数至少为策划暴力攻击的用户提供了一些帮助,但几乎所有机器人都未能阻止此类行为。
该报告强调,一个聊天机器人 Character.AI
来源: Ars Technica
Character.AI
openai
center for countering digital hate
Policy
AI


