Британська AISI перевіряє Mythos AI від Anthropic на кібербезпеку

Anthropic нещодавно оголосив про обмежений випуск своєї моделі Mythos Preview, рекламуючи її вражаючі можливості в завданнях безпеки комп’ютера. Тепер урядовий Інститут безпеки AI (AISI) опублікував початкову оцінку кібератаки моделі можливості, що забезпечують незалежну публічну перевірку заяв Anthropic.

Висновки AISI свідчать про те, що, хоча Mythos може істотно не відрізнятися від інших останніх передових моделей щодо окремих завдань, пов’язаних із кібербезпекою, він може виділитися своєю здатністю ефективно об’єднувати ці завдання разом у багатоетапну серію атак, необхідних для повного проникнення в деякі системи.

Інститут впроваджує різні моделі штучного інтелекту в спеціально розроблені завдання Capture the Flag з початку 2023 року, коли GPT-3.5 Turbo було важко виконати будь-які відносно простих тестів групи.

На відміну від цього, Mythos продемонстрував більш розширені можливості, показуючи високу продуктивність як у окремих завданнях кібербезпеки, так і в ланцюжкових багатоетапних атаках, необхідних для комплексного проникнення в систему. Це свідчить про те, що модель може стати значним кроком вперед у сфері кібербезпеки на основі ШІ.

Оцінка AISI Mythos відбувається в критичний момент, оскільки загроза кібератак продовжує зростати у складності та серйозності. Завдяки здатності моделі моделювати та виконувати ці атаки, вона може виявитися неоціненною, допомагаючи фахівцям із безпеки та організаціям краще розуміти нові загрози та захищатися від них.

Оскільки Anthropic продовжує вдосконалювати та розширювати можливості Mythos, висновки AISI, ймовірно, слугуватимуть важливим орієнтиром для розробки моделі та її потенційного впливу на ландшафт кібербезпеки.

Співпраця між Anthropic та урядовим Інститутом безпеки AI Великобританії підкреслює зростаючу важливість державно-приватного партнерства у вирішенні складних проблем кібербезпеки. Об’єднавши досвід і ресурси обох секторів, дослідники та політики можуть працювати разом, щоб розробити інноваційні рішення, які йдуть в ногу зі зміною ландшафту загроз.