Штучний інтелект Mozilla знаходить 271 помилку Firefox з мінімальною кількістю помилкових спрацьовувань

Коли минулого місяця головний технічний директор Mozilla оголосив, що виявлення вразливостей за допомогою штучного інтелекту досягло моменту прориву, заявивши, що «нуль днів полічено» і «захисники нарешті мають шанс перемогти, рішучу», реакція технічної спільноти була в кращому випадку неоднозначною. Скептики швидко звернули увагу на знайомий наратив: продемонструйте кілька приголомшливих результатів, досягнутих за допомогою штучного інтелекту, зручно опустіть технічні складності та обмеження та дозвольте рекламній машині викликати широкий ентузіазм. Цей шаблон став надто поширеним у середовищі програм безпеки ШІ, що швидко розвивається.

Розуміючи законне занепокоєння, пов’язане з надто розкрученими оголошеннями про штучний інтелект, у четвер Mozilla застосувала інший підхід, запропонувавши прозорість свого новаторського партнерства з моделлю виявлення вразливостей Mythos від Anthropic. Компанія опублікувала детальну документацію, в якій пояснюється, як їй вдалося виявити та каталогізувати 271 раніше невідомий недолік безпеки Firefox протягом двомісячного періоду тестування. У вичерпному технічному дописі, опублікованому в блозі Mozilla Hacks, група інженерів, відповідальна за проект, окреслила ключові фактори, які зробили це досягнення можливим, наголошуючи, що прорив був досягнутий завдяки двом критичним компонентам: суттєвим покращенням самих базових моделей штучного інтелекту та розробці спеціалізованої спеціальної «системи», яка дозволила Mythos ефективно аналізувати та інтерпретувати велике сховище вихідного коду Firefox.

Спеціальний джгут допоміг успіху проекту, слугуючи мостом між складною моделлю ШІ та складною кодовою базою Firefox. Замість того, щоб просто подавати сирий код до штучного інтелекту та сподіватися на корисні результати, інженери Mozilla розробили складну систему, яка могла б контекстуалізувати аналіз коду, надавати відповідну довідкову інформацію для моделі та структурувати вихідні дані таким чином, щоб дослідники з безпеки людини могли негайно діяти. Ця технічна інновація стала значним кроком вперед у тому, щоб зробити аналіз безпеки за допомогою ШІ практичним і надійним у реальному корпоративному середовищі.