人工智能聊天机器人的色情输出引发欧盟对“裸体”应用程序的打击

Musk 聊天机器人 Grok 已成为人工智能平台无法阻止输出真人色情图像的危险的典型例子，包括孩子们。这促使欧盟采取行动，立法者投票简化人工智能法案并提议禁止人工智能“裸体”系统。

在一份联合新闻稿中，欧洲议会内部市场和公民自由委员会确认了此次投票，该投票是在欧盟委员会今年早些时候得出的结论，人工智能法案并不禁止“生成儿童性虐待材料（CSAM）或露骨的深度伪造裸体的人工智能系统”。当时，该委员会表示议会成员已经在提出修改法律的方法，以加强对此类有害内容的保护。

提议的禁止人工智能驱动的“裸体”应用程序是对 Grok 失败所凸显的问题的直接回应，这些失败将这些技术的危险带入了主流。欧盟通过立法行动解决这一问题的举措突显了人们越来越认识到需要主动监管新兴的人工智能应用程序，这些应用程序可能会被滥用来生成有害内容。

简化《人工智能法案》并提议禁止“裸露”应用程序的投票是欧盟在保护其公民免受人工智能潜在滥用努力方面向前迈出的重要一步。通过直接针对这些有问题的应用程序，欧盟发出了一个明确的信息：人工智能生成的内容所带来的风险，尤其是涉及个人性化的内容，是不会被容忍的。

欧盟的举动还凸显了政策制定者和科技公司在平衡人工智能的潜在好处与减轻其风险和意外后果的需要方面面临的更广泛的挑战。随着人工智能技术的不断进步，对强大的监管框架和负责任的开发实践的需求只会变得更加重要。

欧洲议会的投票和《人工智能法案》拟议修正案表明欧盟致力于积极应对人工智能带来的新威胁。这一行动开创了重要先例，可能会激励其他司法管辖区效仿，进一步巩固全球努力，确保人工智能技术的开发和部署优先考虑用户安全和道德考虑。