Викриття оманливого AI-контенту X щодо конфлікту в Ірані

X, система модерації вмісту на основі штучного інтелекту, не може точно перевірити відеоматеріали та зображення ескалації конфлікту в Ірані, натомість створює власний створений штучним інтелектом контент про війну, який поширює дезінформацію на платформі.

Конфлікт в Ірані став причиною вибуху вірусного вмісту в соціальних мережах, більшість із якого не перевірено або відверто сфабриковано. X значною мірою покладається на свій Grok AI для виявлення та видалення неправдивого або оманливого вмісту, пов’язаного з кризою. Проте все більше користувачів повідомляють, що Grok намагається належним чином перевірити автентичність зображень і відео, а в деяких випадках генерує власний вміст, створений штучним інтелектом, щоб заповнити прогалини.

Один користувач X, який побажав залишитися анонімним, поділився з нами знімками екрана, на яких показано зображення, створене штучним інтелектом, яке Grok помилково позначив як справжні кадри із зони бойових дій. Зображення, яке зображує ракетний удар по міському горизонту, має виразний комп’ютерний вигляд, який мало бути легко ідентифіковано як синтетичний.