Хакери розчаровані тим, що створений штучним інтелектом контент заполонив темні форуми

Цифровий злочинний світ переживає несподіване розчарування: кіберзлочинці все більше дратуються поширенням контенту, створеного ШІ, який заповнює їхні приватні форуми та канали зв’язку. Те, що колись було ексклюзивним простором для серйозних незаконних дискусій про методи злому, розробку зловмисного програмного забезпечення та скоординовані кібератаки, тепер захаращено низькоякісними машинно-генерованими дописами, які багато досвідчених загроз відкидають як шум, а не як цінну інформацію.

Це явище являє собою цікавий перетин технологій штучного інтелекту та спільнот кіберзлочинців. Оскільки інструменти штучного інтелекту стали доступнішими та простішими у використанні, зловмисники з різним рівнем витонченості почали без розбору розгортати ці технології на підпільних форумах і темних веб-ринках. Унаслідок цього потік тексту, створеного штучним інтелектом (часто погано написаного, повторюваного та контекстуально нерелевантного), спричинив значне тертя в спільнотах, які раніше були більш кураторськими та ексклюзивними.

Дослідники з питань безпеки та аналітики з кібербезпеки, які спостерігають за цими підземними просторами, задокументували численні скарги від визнаних хакерів, розчарованих тим, що вони в просторіччі називають «лайном ШІ». Ці скарги виявляють неочікувану вразливість злочинних мереж: сама демократизація технологій, яка дозволяє новачкам брати участь у діяльності кіберзлочинців, також уможливлює спам, низькоякісний контент і порушення встановлених каналів зв’язку. Адміністратори форуму та шановні учасники спільноти почали впроваджувати суворішу політику модерації вмісту, щоб боротися з напливом.

Проблема частково виникає через вибух генеративних інструментів ШІ, доступних широкому загалу. Сервіси, такі як ChatGPT, Bard та інші мовні моделі, можна швидко адаптувати для зловмисних цілей, включаючи автоматичне створення дописів, створення вмісту для фішингових кампаній і масового розсилання спаму на форумах. Кіберзлочинці, яким бракує передових технічних навичок, знайшли ці інструменти особливо корисними для створення видимості активності та законності своїх операцій, навіть якщо якість створеного вмісту викликає сумніви.

Одним із особливо помітних аспектів цієї тенденції є те, як вона відображає проблеми, які виникали в законних онлайн-спільнотах десятиліття тому. Подібно до того, як у 1990-х і 2000-х роках форуми, платформи соціальних мереж і дошки оголошень стикалися з епідеміями спаму, злочинні спільноти зараз стикаються з подібними проблемами. Різниця полягає в тому, що розповсюджувачами цього спаму часто є інші кіберзлочинці, які намагаються рекламувати свої послуги, рекламувати їх варіанти зловмисного програмного забезпечення або просто створюють шум, щоб приховати свою фактичну діяльність.

Вплив на форуми кіберзлочинців був значним і багатогранним. Досвідчені хакери повідомляють, що витрачають значно більше часу на фільтрацію нерелевантних публікацій, щоб знайти законні дискусії про нові вразливості, методи використання чи можливості співпраці. Це погіршення якості форуму спонукало деяких старших членів спільноти перейти до більш ексклюзивних просторів, доступних лише для запрошень, де вимоги до членства та процеси перевірки можуть уберегти від учасників нижчої якості та автоматичних спам-ботів.

Адміністратори форумів у цих спільнотах відповіли дедалі агресивнішими стратегіями модерування. Деякі реалізували виклики в стилі captcha, вимагають від користувачів виконання технічних завдань, щоб підтвердити свій досвід, або вимагають оплату в криптовалюті для підтримки активних облікових записів. Ці заходи служать подвійним цілям: вони зменшують спам і публікації, що не потребують жодних зусиль, водночас створюючи фінансові бар’єри, які перешкоджають випадковим або недосвідченим учасникам.

Ситуація також відображає ширшу напругу в екосистемах кіберзлочинців щодо професіоналізму та навичок. Відомі суб’єкти загрози, які витратили роки на розробку складних хакерських можливостей, часто розглядають новачків, які покладаються на інструменти штучного інтелекту та готові набори експлойтів, як загрозу операційній безпеці та професійним стандартам. Ці ветерани-злочинці стурбовані тим, що збільшення участі менш кваліфікованих осіб збільшує ймовірність проникнення в правоохоронні органи та скоординованих ліквідацій.

З точки зору захисту кібербезпеки цей внутрішній збій є цікавим парадоксом. Хоча заповнення кримінальних форумів контентом, створеним штучним інтелектом, створює труднощі для моніторингу цих просторів правоохоронними органами, це водночас свідчить про те, що інструменти штучного інтелекту демократизуються в усьому світі загроз. Це свідчить про те, що майбутні кібератаки можуть стати більш численними та різноманітнішими за якістю, що вимагатиме від захисників підготовки як до складних цілеспрямованих загроз, так і до атак на основі об’єму від менш здібних гравців.

Галузеві експерти також відзначають, що ця тенденція може мати непередбачені наслідки для організованих операцій кіберзлочинців. Коли форуми стають ненадійними як канали зв’язку через спам і низькоякісний вміст, злочинні групи можуть шукати альтернативні платформи або розробляти більш приватні, децентралізовані методи спілкування. Це потенційно може ускладнити виявлення певних злочинних операцій, але водночас може фрагментувати колективний обмін знаннями, характерний для великих форумних спільнот.

Роль технології штучного інтелекту у підриві злочинних спільнот також викликає сумніви щодо ефективності поточних підходів до кібербезпеки. Якщо штучний інтелект може ненавмисно пошкодити інфраструктуру злочинних підприємств, чи може він бути навмисно використаний у зброю для оборонних цілей? Деякі фірми з кібербезпеки досліджують цю можливість, з’ясовуючи, чи може контрольоване розгортання дезінформації чи спаму, створеного штучним інтелектом, порушити роботу відомих злочинних мереж.

Заглядаючи вперед, зв’язок між штучним інтелектом і кіберзлочинністю, імовірно, ставатиме все складнішим. Оскільки інструменти штучного інтелекту стають все більш складними, кіберзлочинці можуть знайти краще застосування цих технологій для автоматизації атак, створення переконливішого фішингового вмісту та виявлення нових вразливостей у системах. Водночас поточна проблема заповнення форумів спамом свідчить про те, що впровадження більшого контролю над розробкою та розгортанням ШІ може мати несподівані переваги для захисту кібербезпеки.

Скарги, що надходять з форумів кіберзлочинців, зрештою висвітлюють важливу реальність: порушення технологій впливає на всі спільноти, юридичні чи інші. Ті самі інструменти, які дають змогу законним творцям, також уможливлюють спам і зловживання, і коли ці інструменти стають широко доступними, навіть ексклюзивні спільноти не можуть повністю ізолювати себе від їхнього впливу. Для спеціалістів із кібербезпеки, які відстежують ці простори, погіршення якості форуму служить нагадуванням про те, що злочинні підприємства стикаються з власними операційними проблемами, навіть якщо вони продовжують становити серйозну загрозу для організацій і окремих осіб у всьому світі.