揭露 X 关于伊朗冲突的欺骗性人工智能内容

X 的 Grok 是一个人工智能驱动的内容审核系统，无法准确验证伊朗不断升级的冲突的视频片段和图像，而是生成自己的人工智能生成的有关战争的内容，这些内容在整个平台上传播错误信息。

伊朗冲突导致社交媒体内容激增，其中大部分未经验证或完全是捏造的。 X 严重依赖 Grok AI 来识别和删除与危机相关的虚假或误导性内容。然而，越来越多的用户报告说，Grok 正在努力正确验证图像和视频的真实性，并且在某些情况下正在生成自己的人工智能创建的内容来填补空白。

一位要求匿名的 X 用户与我们分享了屏幕截图，显示了一张人工智能生成的图像，Grok 错误地将其标记为来自战区的真实镜头。该图像描绘了城市天际线上的导弹袭击，具有明显的计算机生成外观，应该很容易识别为合成图像。