ШІ-хакери: експерти з безпеки попереджають про зростання загроз

Перетин штучного інтелекту та кіберзлочинності створив новий рубіж цифрових загроз, які спеціалісти з безпеки намагаються зрозуміти та протистояти їм. Оскільки хакери ШІ використовують передові алгоритми машинного навчання для проникнення в корпоративні мережі та персональні пристрої, традиційний ландшафт кібербезпеки докорінно змінився. Нещодавно ми зустрілися з провідним експертом з кібербезпеки, щоб дослідити мінливий характер цих загроз, вразливості, які вони використовують, і те, що організації та окремі особи можуть зробити, щоб захистити себе у все більш ворожому цифровому середовищі.

Зростання штучного інтелекту в кіберзлочинності означає зміну парадигми організації та виконання атак. На відміну від традиційних методів злому, які покладаються на людську інтуїцію та трудомісткі ручні процеси, системи на базі штучного інтелекту можуть аналізувати величезні набори даних, визначати закономірності в мережевому трафіку та виявляти слабкі місця безпеки з безпрецедентною швидкістю. Ці системи працюють цілодобово без втоми, безперервно шукаючи вразливі місця та адаптуючи свої стратегії на основі захисних реакцій. Рівень складності сучасних кібератак, керованих штучним інтелектом, значно перевищує те, що було можливо раніше, що робить їх експоненціально більш небезпечними як для підприємств, так і для окремих користувачів.

Згідно з джерелом нашого експерта, одним із найбільш тривожних аспектів хакерства на основі штучного інтелекту є його здатність автоматизувати фазу розвідки атак. Моделі машинного навчання, навчені на основі історичних даних про порушення, можуть передбачити, які заходи безпеки, найімовірніше, зазнають невдачі щодо конкретних організаційних профілів. Ці алгоритми можуть генерувати переконливі фішингові електронні листи, призначені для окремих співробітників, створювати зловмисне програмне забезпечення, яке адаптується в режимі реального часу, щоб обійти антивірусне програмне забезпечення, і навіть передбачати, коли системні адміністратори найменше помітять підозрілу мережеву активність. Підвищення ефективності від автоматизації означає, що зловмисники можуть експоненціально масштабувати свої операції без пропорційного збільшення інвестицій у ресурси.

Наслідки для управління ризиками кібербезпеки є глибокими та багатогранними. Традиційні механізми захисту, які десятиліттями захищали цифрову інфраструктуру, стають все більш застарілими, коли протистояти розумним супротивникам. Брандмауери, системи виявлення вторгнень і антивірусні програми на основі сигнатур намагаються виявити нові вектори атак, створені системами машинного навчання. Організації опиняються у постійній грі в кішки-мишки, де захисні інновації швидко нейтралізуються зловмисниками, які використовують ШІ для вивчення та протидії цим захистам. Ця асиметрія в гонці озброєнь спонукала експертів з безпеки закликати до фундаментального перегляду того, як організації підходять до цифрового захисту.

Мабуть, найбільше тривоги викликає демократизація інструментів злому на основі технології ШІ. Раніше здійснення складних кібератак вимагало спеціальних знань, значних фінансових ресурсів і багаторічного досвіду тестування на проникнення та зворотного проектування. Тепер доступні фреймворки та попередньо навчені моделі знижують бар’єр для проникнення зловмисників. Особи з мінімальними технічними знаннями можуть розгорнути інструменти атаки на основі штучного інтелекту, які ще кілька років тому потребували б елітних хакерських колективів. Ця доступність розширила коло загроз, охопивши не лише організовані синдикати кіберзлочинців і національні держави, а й незадоволених працівників, активістів і опортуністичних злочинців, які шукають швидкої фінансової вигоди.

Експерт, з яким ми консультувалися, підкреслив, що вразливості безпеки штучного інтелекту поширюються за межі традиційної мережевої інфраструктури в сферу самих систем штучного інтелекту. Моделі машинного навчання, які використовуються в законних цілях, наприклад виявлення шахрайства, чат-боти обслуговування клієнтів і механізми рекомендацій, можна маніпулювати за допомогою змагальних атак. Зловмисники можуть впроваджувати зловмисні дані в навчальні набори даних, отруювати моделі машинного навчання для отримання неправильних результатів або використовувати такі методи, як оперативне впровадження, щоб змусити системи ШІ розкрити конфіденційну інформацію або виконати ненавмисні дії. Ці атаки на системи штучного інтелекту представляють абсолютно нову категорію кіберзагроз, яку більшість організацій ще вчаться виявляти та пом’якшувати.

Компроміси в ланцюгах постачання також стали кращим вектором для кібератак, розширених ШІ. Замість того, щоб безпосередньо націлюватися на великі корпорації, досвідчені суб’єкти загрози все більше зосереджуються на менших постачальниках і постачальниках послуг, які підключаються до великих мереж. Системи штучного інтелекту чудово справляються з виявленням цих слабких ланок у складних ланцюгах поставок шляхом аналізу ділових відносин і відображення цифрових залежностей. Після встановлення точки опори в менш захищеній мережі постачальників зловмисники можуть використовувати своє становище для запуску цільових кампаній проти кількох великих організацій одночасно. Злом SolarWinds 2020 року показав, наскільки руйнівними можуть бути такі атаки на ланцюги поставок, а варіанти на основі ШІ обіцяють ще більший руйнівний потенціал.

Відповідаючи на питання про захисні стратегії, експерт окреслив кілька найважливіших пріоритетів для організацій, які прагнуть захистити себе. По-перше, компанії повинні інвестувати значні кошти в рішення кібербезпеки на основі штучного інтелекту, які можуть відповідати складності атакам, керованим штучним інтелектом. Це включає впровадження систем виявлення аномалій на основі машинного навчання, платформ поведінкової аналітики та служб прогнозування загроз. Однак експерт попередив, що розгортання штучного інтелекту в захисних цілях не є ідеальним рішенням — воно має бути доповнене суворими основами безпеки, включаючи сегментацію мережі, багатофакторну автентифікацію, регулярні аудити безпеки та комплексні програми навчання співробітників.

Людський фактор залишається критично важливим, незважаючи на розвиток технологій. Навчання з питань безпеки, яке навчає співробітників фішингу, соціальній інженерії та підозрілій поведінці, як ніколи важливо, можливо, навіть більше в середовищі загроз, розширених ШІ. Експерт підкреслив, що навіть найскладніший захист можна обійти, якщо співробітники ненавмисно нададуть зловмисникам дійсні облікові дані або дозволять запустити шкідливий код у системах компанії. Організації повинні розвивати культуру безпеки, у якій повідомлення про підозрілу діяльність заохочуються та винагороджуються, а не караються.

Заглядаючи вперед, експерт передбачив, що перетин ШІ та кіберзлочинності продовжуватиме посилюватися. Нові технології, такі як квантові обчислення, загрожують зробити поточні стандарти шифрування застарілими, потенційно піддаючи дані, накопичені роками, ретроспективним атакам дешифрування. Тим часом системи штучного інтелекту стають все більш здатними до автономної роботи, що збільшує спектр повністю автоматизованих кібератак, які не потребують втручання людини для визначення цілей, розробки експлойтів і проведення кампаній. Уряди та міжнародні організації починають боротися з тим, як регулювати розробку та розгортання штучного інтелекту, щоб запобігти його неправильному використанню зловмисниками, але значущі дії залишаються невловимими.

Для просування вперед необхідна безпрецедентна співпраця між постачальниками технологій, урядовими установами, науковими установами та приватними підприємствами. Обмін інформацією про загрози має бути прискорений і розширений, дозволяючи організаціям вчитися на атаках інших і впроваджувати захисні заходи до того, як подібні кампанії будуть спрямовані на їх власну інфраструктуру. Міжнародна співпраця має важливе значення, оскільки кіберзагрози ігнорують географічні кордони, а багато складних атак походять від ворожих націй-держав, які прагнуть досягти геополітичних цілей. Експерт дійшов висновку, що усунення ризиків, пов’язаних з хакерами штучного інтелекту, потребуватиме постійної відданості, значних інвестицій і фундаментальної трансформації підходу суспільства до цифрової безпеки в найближчі десятиліття.