Разоблачение обманчивого контента искусственного интеллекта X об иранском конфликте

X, система модерации контента на базе искусственного интеллекта, не может точно проверить видеоматериалы и изображения обостряющегося конфликта в Иране и вместо этого генерирует собственный контент о войне, созданный искусственным интеллектом, который распространяет дезинформацию по платформе.

Иранский конфликт стал свидетелем взрыва вирусного контента в социальных сетях, большая часть которого непроверена или полностью сфабрикована. X в значительной степени полагался на свой искусственный интеллект Grok для выявления и удаления ложного или вводящего в заблуждение контента, связанного с кризисом. Однако все больше пользователей сообщают, что Grok изо всех сил пытается должным образом проверить подлинность изображений и видео, а в некоторых случаях создает собственный контент, созданный искусственным интеллектом, чтобы заполнить пробелы.

Один пользователь X, пожелавший остаться анонимным, поделился с нами скриншотами, на которых показано изображение, созданное искусственным интеллектом, которое Грок ошибочно назвал реальными кадрами из зоны боевых действий. Изображение, на котором изображен ракетный удар по горизонту города, имеет отчетливый компьютерный вид, который легко можно было бы идентифицировать как синтетический.