Инструменты кибербезопасности на базе искусственного интеллекта обнаруживают скрытые уязвимости программного обеспечения
Передовые системы поиска ошибок с использованием искусственного интеллекта обнаруживают ранее неизвестные уязвимости в программном коде, что вызывает обеспокоенность по поводу автоматизации кибербезопасности.
Пересечение искусственного интеллекта и кибербезопасности достигло поворотного момента в августе прошлого года, когда элитные команды безопасности собрались в Лас-Вегасе для новаторского соревнования. Конкурс Artificial Intelligence Cyber Challenge (AIxCC), организованный Агентством перспективных исследовательских проектов Министерства обороны (DARPA), продемонстрировал передовые возможности систем поиска ошибок на базе искусственного интеллекта, предназначенных для выявления уязвимостей в программном коде до того, как злоумышленники смогут ими воспользоваться. Демонстрация оказалась одновременно впечатляющей и тревожной, продемонстрировав обоюдоострую природу автоматизированных инструментов безопасности в мире, который становится все более цифровым.
Масштаб конкурса был амбициозным во всех смыслах. DARPA предоставило участвующим группам 54 миллиона строк реального программного кода, намеренно наполненного искусственными недостатками для проверки возможностей обнаружения систем. Соревнование заключалось не просто в поиске каждой установленной уязвимости, а в понимании того, насколько хорошо эти инструменты безопасности на базе искусственного интеллекта могут работать в реальных условиях. Команды потратили месяцы на совершенствование своих алгоритмов машинного обучения, обучение нейронных сетей и оптимизацию шаблонов обнаружения, чтобы максимизировать свою эффективность против внедренных уязвимостей.
То, что получилось на конкурсе в Лас-Вегасе, удивило даже самых опытных специалистов по кибербезопасности, присутствовавших на нем. Хотя автоматизированные инструменты конкурирующих команд успешно выявили большинство искусственных ошибок, которые DARPA намеренно вставило в кодовую базу, они на этом не остановились. Сложные системы обнаружения уязвимостей с помощью искусственного интеллекта вышли за рамки возложенной на них задачи и обнаружили более дюжины подлинных ошибок, которые DARPA вообще не создавало. Это не были ложные срабатывания или безобидные аномалии — это были реальные уязвимости безопасности, скрывающиеся в подлинном программном коде.
Источник: The Verge
