Хакеры разочарованы тем, что созданный искусственным интеллектом контент наводняет форумы даркнета

Цифровой преступный мир переживает неожиданное разочарование: киберпреступников все больше раздражает распространение контента, созданного искусственным интеллектом, который заполоняет их частные форумы и каналы связи. То, что когда-то было эксклюзивным пространством для серьезных незаконных дискуссий о методах взлома, разработке вредоносного ПО и скоординированных кибератаках, теперь захламлено низкокачественными машинными сообщениями, которые многие опытные злоумышленники считают шумом, а не ценной информацией.

Этот феномен представляет собой любопытное пересечение технологии искусственного интеллекта и сообществ киберпреступников. Поскольку инструменты искусственного интеллекта стали более доступными и простыми в использовании, злоумышленники разного уровня сложности начали без разбора использовать эти технологии на подпольных форумах и торговых площадках даркнета. Возникший в результате поток текста, сгенерированного искусственным интеллектом (часто плохо написанного, повторяющегося и нерелевантного контексту), создал серьезные разногласия внутри сообществ, которые раньше были более тщательно курируемыми и эксклюзивными.

Исследователи и аналитики кибербезопасности, наблюдающие за этими подземными пространствами, задокументировали многочисленные жалобы от известных хакеров, разочарованных тем, что они в просторечии называют «ИИ-дерьмом». Эти жалобы раскрывают неожиданную уязвимость криминальных сетей: сама демократизация технологий, которая позволяет новичкам участвовать в киберпреступной деятельности, также способствует распространению спама, низкокачественного контента и нарушению установленных каналов связи. Администраторы форумов и уважаемые члены сообщества начали применять более строгие правила модерации контента, чтобы бороться с наплывом пользователей.

Проблема частично связана с бурным ростом количества инструментов генеративного искусственного интеллекта, доступных широкой публике. Такие сервисы, как ChatGPT, Bard и другие языковые модели, можно быстро адаптировать для вредоносных целей, включая автоматическое создание сообщений, создание контента для фишинговых кампаний и массовое распространение спама на форумах. Киберпреступники, которым не хватает продвинутых технических навыков, находят эти инструменты особенно полезными для создания видимости активности и легитимности своих операций, даже если качество создаваемого контента вызывает сомнения.

Особенно примечательным аспектом этой тенденции является то, что она отражает проблемы, с которыми столкнулись законные онлайн-сообщества десятилетия назад. Точно так же, как форумы, платформы социальных сетей и доски объявлений столкнулись с эпидемиями спама в 1990-х и 2000-х годах, преступные сообщества сейчас сталкиваются с аналогичными проблемами. Разница в том, что рассылку спама зачастую осуществляют другие киберпреступники, пытающиеся рекламировать свои услуги, продвигать свои варианты вредоносного ПО или просто создавать шум, чтобы скрыть свою реальную деятельность.

Воздействие на форумы киберпреступников было существенным и многогранным. Опытные хакеры сообщают, что тратят значительно больше времени на фильтрацию нерелевантных сообщений, чтобы найти законные обсуждения новых уязвимостей, методов эксплуатации или возможностей сотрудничества. Такое ухудшение качества форума побудило некоторых высокопоставленных членов сообщества перейти в более эксклюзивные места, доступные только по приглашению, где требования к членству и процессы проверки могут не допускать участников более низкого качества и автоматических спам-ботов.

Администраторы форумов в этих сообществах отреагировали более агрессивными стратегиями модерации. Некоторые реализовали задачи в стиле капчи, требуют от пользователей выполнения технических задач, чтобы доказать свою компетентность, или требуют оплаты в криптовалюте для поддержания активных учетных записей. Эти меры преследуют двойную цель: они сокращают количество спама и публикаций, не требующих больших усилий, и одновременно создают финансовые барьеры, отпугивающие случайных или неопытных участников.

Ситуация также отражает более широкую напряженность в экосистемах киберпреступников в отношении профессионализма и навыков. Известные злоумышленники, потратившие годы на разработку сложных хакерских возможностей, часто рассматривают новичков, полагающихся на инструменты искусственного интеллекта и легкодоступные наборы эксплойтов, как угрозу операционной безопасности и профессиональным стандартам. Эти опытные преступники обеспокоены тем, что более активное участие менее опытных людей увеличивает вероятность проникновения правоохранительных органов и скоординированных ликвидаций.

С точки зрения кибербезопасности этот внутренний сбой представляет собой интересный парадокс. Хотя наводнение криминальных форумов контентом, созданным искусственным интеллектом, создает проблемы для правоохранительных органов, контролирующих эти пространства, это одновременно указывает на то, что инструменты искусственного интеллекта демократизируются во всем мире угроз. Это говорит о том, что будущие кибератаки могут стать более многочисленными и более разнообразными по качеству, что потребует от защитников подготовки как к сложным целевым угрозам, так и к масштабным атакам со стороны менее способных субъектов.

Отраслевые эксперты также отмечают, что эта тенденция может иметь непредвиденные последствия для организованных операций киберпреступников. Когда форумы становятся ненадежными каналами связи из-за спама и некачественного контента, преступные группировки могут искать альтернативные платформы или разрабатывать более частные, децентрализованные методы общения. Потенциально это может затруднить обнаружение определенных преступных операций, но одновременно привести к фрагментации коллективного обмена знаниями, который характерен для крупных форумских сообществ.

Роль технологий искусственного интеллекта в разрушении преступных сообществ также поднимает вопросы об эффективности нынешних подходов к кибербезопасности. Если искусственный интеллект может непреднамеренно повредить инфраструктуру преступных предприятий, можно ли его намеренно использовать в качестве оружия в оборонительных целях? Некоторые фирмы, занимающиеся кибербезопасностью, изучают эту возможность, исследуя, может ли контролируемое распространение дезинформации или спама, созданного искусственным интеллектом, разрушить известные преступные сети.

В будущем взаимосвязь между искусственным интеллектом и киберпреступностью, скорее всего, станет все более сложной. Поскольку инструменты искусственного интеллекта становятся все более совершенными, киберпреступники могут найти более эффективное применение этим технологиям для автоматизации атак, создания более убедительного фишингового контента и обнаружения новых уязвимостей в системах. В то же время текущая проблема с наводнением форумов спамом предполагает, что введение большего контроля над разработкой и внедрением ИИ может принести неожиданные преимущества для защиты кибербезопасности.

Жалобы, исходящие с форумов киберпреступников, в конечном итоге подчеркивают важную реальность: технологические сбои затрагивают все сообщества, юридические или иные. Те же инструменты, которые расширяют возможности законных авторов, также способствуют распространению спама и злоупотреблений, и когда эти инструменты станут широко доступными, даже эксклюзивные сообщества не смогут полностью оградить себя от их последствий. Для специалистов по кибербезопасности, контролирующих эти пространства, ухудшение качества форумов служит напоминанием о том, что преступные предприятия сталкиваются с собственными оперативными проблемами, даже несмотря на то, что они продолжают представлять серьезную угрозу для организаций и частных лиц по всему миру.