Чат-боты с искусственным интеллектом распространяют дезинформацию о выборах

Новое важное расследование выявило тревожные уязвимости в чат-ботах с искусственным интеллектом и показало, что популярные платформы, включая ChatGPT, систематически предоставляли избирателям неточную информацию во время выборов в Шотландии. Полученные результаты побудили регулирующие органы потребовать немедленных действий, поднимая критические вопросы об адекватности существующих мер защиты демократических процессов от дезинформации, создаваемой искусственным интеллектом.

Избирательная комиссия срочно призвала к созданию новых правовых рамок, специально предназначенных для контроля за распространением дезинформации через службы чат-ботов с искусственным интеллектом. Это вмешательство произошло после того, как исследование, проведенное аналитическим центром Demos, выявило тревожные закономерности распространения ложной информации среди избирателей, ищущих законного руководства выборами. Позиция регулирующего органа сигнализирует о растущей обеспокоенности властей Великобритании по поводу потенциальной угрозы, которую эти инструменты искусственного интеллекта представляют для честности выборов и доверия общества к демократическим институтам.

Согласно всестороннему исследованию Demos, службы искусственного интеллекта предоставили дезинформацию в ответ на 34 % вопросов, заданных в ходе исследования. Эта статистика отражает значительный процент отказов, предполагая, что более одного из трех запросов избирателей приводили к неточным, вводящим в заблуждение или полностью сфабрикованным ответам. Такие результаты подчеркивают серьезность проблемы и острую необходимость вмешательства до того, как произойдут будущие выборные события.

Исследование выявило несколько категорий ошибок, допускаемых этими языковыми моделями искусственного интеллекта. Среди наиболее тревожных результатов были случаи, когда чат-боты выдумывали полностью вымышленные политические скандалы, создавали несуществующих кандидатов и указывали неправильные даты важных предвыборных событий. Эти измышления представляли собой не просто мелкие неточности, а весьма серьезные искажения фактов, способные существенно повлиять на поведение избирателей и понимание электоральной ситуации.

Исследователи Demos обнаружили, что ChatGPT, одна из наиболее широко используемых платформ искусственного интеллекта в мире, особенно склонна генерировать ложную информацию, когда ее спрашивают об особенностях выборов в Шотландии. Чат-бот не только допускал фактические ошибки, но и уверенно выдумывал детали, представляя вымышленную информацию так, как если бы она была установленным фактом. Эта тенденция генерировать убедительный, но совершенно ложный контент (феномен, известный как «галлюцинация» в терминологии ИИ) создает чрезвычайные проблемы для избирателей, пытающихся принять обоснованные решения.

Фальсификация несуществующих кандидатов представляет собой одну из самых вопиющих ошибок, зафиксированных в исследовании. Когда избиратели задавали вопросы о конкретных политических деятелях или кандидатах от партии, некоторые чат-боты с искусственным интеллектом придумывали вполне правдоподобно звучащие имена и биографические подробности, а также политические позиции и партийную принадлежность. Такая подробная ложная информация могла легко ввести в заблуждение избирателей, у которых не было независимых источников проверки.

Помимо вымышленных кандидатов, исследование зафиксировало случаи, когда чат-боты создавали полностью вымышленные скандалы с участием реальных политических деятелей. Эти сфабрикованные противоречия были представлены с явной авторитетностью, что потенциально могло нанести ущерб репутации и ввести избирателей в заблуждение относительно реальных политических показателей и поведения. Способность этих систем создавать правдоподобные ложные повествования о реальных людях представляет собой серьезную угрозу справедливым избирательным процессам.

Другой категорией вызывающих обеспокоенность ошибок является неправильная датировка избирательных событий. Когда избиратели задавали вопросы о том, когда состоится голосование, сроках регистрации или другой важной для участия в выборах информации, некоторые службы искусственного интеллекта предоставляли неправильные даты. Такие ошибки могут напрямую помешать гражданам голосовать или должным образом участвовать в избирательном процессе, фактически лишая избирательных прав пользователей, которые полагались на эти платформы.

Демос подчеркнул, что эти результаты поднимают глубоко тревожные вопросы о нынешнем отсутствии регулирования, регулирующего платформы искусственного интеллекта в Соединенном Королевстве. В отличие от традиционных СМИ, которые работают в соответствии с установленными нормативными рамками и журналистскими стандартами, чат-боты с искусственным интеллектом в настоящее время работают в практически нерегулируемой среде. Не существует обязательных требований по проверке фактов, ответственности за дезинформацию и механизмов подотчетности, сравнимых с теми, которые применяются к обычным источникам новостей.

Призыв Избирательной комиссии к новому правовому контролю представляет собой признание того, что существующая нормативная база неадекватна для решения этой возникающей проблемы. Организация указала, что для защиты будущих избирательных мероприятий от подобных проблем потребуется закон, специально направленный против дезинформации, генерируемой искусственным интеллектом. Это представляет собой значительный сдвиг в мышлении регулирования, поскольку политики пытаются найти баланс между технологическими инновациями и демократическими гарантиями.

Отраслевые обозреватели отмечают, что задача регулирования дезинформации ИИ существенно отличается от контроля над ложной информацией, созданной человеком. Традиционные подходы к борьбе с дезинформацией часто направлены на выявление злоумышленников и установление ответственности. Однако с системами искусственного интеллекта проблема становится более сложной, поскольку ошибки часто возникают из-за технических ограничений, а не из-за преднамеренного обмана. Системы генерируют правдоподобно звучащую ложную информацию из-за того, как они обрабатывают языковые шаблоны в обучающих данных, а не обязательно потому, что они содержат инструкции, вводящие в заблуждение.

Своевременность этих выводов особенно важна, учитывая продолжающиеся дебаты о регулировании ИИ в правительстве и гражданском обществе. Хотя некоторые сторонники технологий утверждают, что преждевременное регулирование может задушить инновации, демократические институты все больше обеспокоены рисками, которые неадекватно контролируемые системы ИИ представляют для фундаментальных процессов. Случай с выборами в Шотландии предоставляет конкретные доказательства того, что эти опасения носят не просто теоретический характер, а представляют собой реальные, документально подтвержденные угрозы.

В будущем перед политиками встанут трудные вопросы о том, как обеспечить эффективный надзор за точностью чат-ботов с искусственным интеллектом, не создавая при этом слишком обременительных ограничений. Некоторые предложения предлагают потребовать от компаний, занимающихся искусственным интеллектом, внедрить системы проверки фактов или отображать предупреждения о неопределенности при обсуждении тем, где точность имеет решающее значение. Другие выступают за требования прозрачности, которые заставят платформы раскрывать информацию о том, что контент создан искусственным интеллектом, а не предоставлен экспертами-людьми.

Вмешательство Избирательной комиссии свидетельствует о том, что борьба с дезинформацией ИИ о выборах, вероятно, станет приоритетом для регулирующих органов Великобритании в ближайшие годы. Поскольку искусственный интеллект продолжает развиваться и становится все более доступным для широкой общественности, ставки, связанные с обеспечением достоверной информации во время выборов, только возрастают. Случай с выборами в Шотландии служит поучительным примером того, что может произойти, если популярные сервисы искусственного интеллекта не будут соблюдать стандарты точности в отношении информации, критически важной для демократического участия.