Искусственный интеллект Mozilla обнаружил 271 ошибку Firefox с минимальным ложным срабатыванием

Когда в прошлом месяце технический директор Mozilla объявил, что обнаружение уязвимостей с помощью искусственного интеллекта достигло прорывного момента, заявив, что «нулевые дни сочтены» и «защитники наконец-то получили шанс одержать решительную победу», реакция технического сообщества была в лучшем случае неоднозначной. Скептики поспешили указать на знакомую историю: продемонстрировать несколько блестящих результатов, достигнутых с помощью искусственного интеллекта, удобно опустить технические сложности и ограничения и позволить рекламной машине вызвать широкий энтузиазм. Эта закономерность стала слишком распространенной в быстро развивающемся мире приложений безопасности на базе искусственного интеллекта.

Понимая законные опасения, связанные с преувеличенными заявлениями об искусственном интеллекте, Mozilla в четверг избрала другой подход, предложив прозрачность своего новаторского партнерства с моделью обнаружения уязвимостей Mythos от Anthropic. Компания опубликовала подробную документацию, объясняющую, как ей удалось обнаружить и каталогизировать 271 ранее неизвестную уязвимость безопасности Firefox за двухмесячный период тестирования. В подробном техническом сообщении, опубликованном в блоге Mozilla Hacks, команда инженеров, ответственная за проект, обрисовала ключевые факторы, которые сделали это достижение возможным, подчеркнув, что прорыв был достигнут благодаря двум важнейшим компонентам: существенным улучшениям в самих базовых моделях искусственного интеллекта и разработке специализированного специального «оборудования», которое позволило Mythos эффективно анализировать и интерпретировать обширное хранилище исходного кода Firefox.

Специальная система сыграла важную роль в успехе проекта, служа мостом между сложной моделью искусственного интеллекта и сложной кодовой базой Firefox. Вместо того, чтобы просто передавать необработанный код ИИ и надеяться на полезные результаты, инженеры Mozilla разработали сложную систему, которая может контекстуализировать анализ кода, предоставлять соответствующую исходную информацию для модели и структурировать выходные данные таким образом, чтобы это было немедленно полезно для исследователей человеческой безопасности. Эта техническая инновация стала значительным шагом вперед в обеспечении практичности и надежности анализа безопасности на основе искусственного интеллекта в реальных корпоративных средах.