人工智能生成的性感黑人女性视频在病毒调查后被删除

BBC 的一项调查发现,人工智能驱动的头像被用来在 TikTok 和 Instagram 上创建和传播以性感黑人女性为主题的露骨内容,这一趋势令人不安。这些平台已采取行动删除违规视频。
英国广播公司 (BBC) 的一项调查揭露了在 TikTok 和 Instagram 等流行社交媒体平台上大量使用人工智能生成的性感黑人女性视频后,出现了一个令人不安的发现。这些人工智能化身被众多帐户用来创建和分发露骨内容,而这些内容通常是在所描绘的个人不知情或不同意的情况下进行的。
英国广播公司 (BBC) 深入调查这一问题,发现了数十个此类账户,其中许多账户已积累了数千名关注者。这些视频从轻微的暗示到彻头彻尾的色情内容,在各个平台上分享,助长了数字空间中对黑人女性的持续物化和剥削。
为了回应 BBC 的调查,TikTok 和 Instagram 都迅速采取了行动,删除了违规内容,并在某些情况下暂停了相关帐户。 TikTok 的一位发言人表示,“我们对性剥削女性的内容采取零容忍政策,我们会努力检测并删除此类视频。”同样,Instagram 也承认了这个问题,并承诺继续监控并删除任何违反其社区准则的此类内容。
这一事件揭示了人工智能和数字内容领域的阴暗角落,旨在增强和实现能力的技术也可能被滥用而造成伤害。随着人工智能化身和合成媒体的使用不断激增,平台提供商、政策制定者和广大公众在解决滥用和剥削的可能性方面保持警惕至关重要。
专家认为,需要采取多方面的方法来解决这一问题,包括开发强大的内容审核系统、实施更严格的内容政策,以及对创作者和消费者进行关于人工智能生成内容的道德影响的教育。只有通过共同努力,我们才能确保以负责任和合乎道德的方式利用人工智能的变革潜力,而不会延续有害的刻板印象或滥用行为。
随着数字格局的不断发展,我们必须保持警惕并积极主动地应对技术、内容创作和社会影响交叉带来的新挑战。删除这些人工智能生成的视频是朝着正确方向迈出的一步,但要创建一个更具包容性、公平和道德的数字生态系统,还有很多工作要做。
来源: BBC News


