ШІ-чат-боти поширюють дезінформацію про вибори

Нове важливе розслідування виявило тривожні вразливості в чат-ботах зі штучним інтелектом, виявивши, що популярні платформи, зокрема ChatGPT, систематично надавали виборцям неточну інформацію під час виборів у Шотландії. Отримані дані спонукали регуляторні органи вимагати негайних дій, викликаючи критичні питання щодо адекватності поточних гарантій захисту демократичних процесів від дезінформації, створеної ШІ.

Виборча комісія опублікувала терміновий заклик до нової законодавчої бази, спеціально розробленої для контролю за поширенням дезінформації з сервісів чат-ботів AI. Це втручання сталося після того, як дослідження, проведене мозковим центром Demos, виявило тривожні моделі неправдивої інформації, яка поширюється серед виборців, які шукають законних рекомендацій щодо виборів. Позиція регуляторного органу свідчить про зростаючу стурбованість влади Великобританії щодо потенційної загрози, яку ці інструменти штучного інтелекту становлять для чесності виборів і громадської довіри до демократичних інститутів.

Згідно з комплексним розслідуванням Demos, сервіси ШІ надали дезінформацію у відповідь на 34% запитань, поставлених під час дослідження. Ця статистика свідчить про значний відсоток невдач, що свідчить про те, що більш ніж один із трьох запитів виборців призвів до неточних, оманливих або повністю сфабрикованих відповідей. Такі висновки підкреслюють серйозність проблеми та нагальну потребу втручання до майбутніх виборів.

Дослідження виявило кілька категорій помилок цих мовних моделей ШІ. Серед найбільш тривожних знахідок були випадки, коли чат-боти вигадували цілком вигадані політичні скандали, створювали неіснуючих кандидатів і вказували неправильні дати важливих виборів. Ці вигадки були не просто незначними неточностями, а досить серйозними спотвореннями, здатними суттєво вплинути на поведінку виборців і розуміння виборчого ландшафту.

Дослідники Demos виявили, що ChatGPT, одна з найбільш широко використовуваних платформ штучного інтелекту в усьому світі, була особливо схильна до створення неправдивої інформації, коли запитували про специфіку шотландських виборів. Чат-бот не лише зробив фактичні помилки, але й, здається, впевнено вигадував деталі, представляючи вигадану інформацію так, ніби це встановлений факт. Ця тенденція генерувати переконливий, але повністю фальшивий контент, явище, відоме як «галюцинація» в термінології штучного інтелекту, створює надзвичайні проблеми для виборців, які намагаються прийняти обґрунтовані рішення.

Фабрикування неіснуючих кандидатів є однією з найбільш кричущих помилок, задокументованих у дослідженні. Коли виборці ставили запитання про конкретних політичних діячів чи партійних кандидатів, деякі чат-боти зі штучним інтелектом вигадували цілком правдоподібні імена та біографічні подробиці разом із політичними позиціями та партійною приналежністю. Така детальна неправдива інформація могла легко ввести в оману виборців, які не мали незалежних джерел перевірки.