Британская AISI подвергает искусственному интеллекту Mythos AI тесту на кибербезопасность

Anthropic недавно объявила об ограниченном выпуске своей модели Mythos Preview, рекламируя ее впечатляющие возможности в задачах компьютерной безопасности. Теперь Институт безопасности искусственного интеллекта (AISI) правительства Великобритании опубликовал первоначальную оценку возможностей модели в плане кибератак, обеспечив независимую публичную проверку Заявления Anthropic.

Результаты AISI показывают, что, хотя Mythos, возможно, и не сильно отличается от других последних передовых моделей с точки зрения отдельных задач, связанных с кибербезопасностью, он может выделиться среди других благодаря своей способности эффективно объединять эти задачи в многоэтапную серию атак, необходимых для полного проникновения в некоторые системы.

Институт применяет различные модели искусственного интеллекта в специально разработанных задачах «Захват флага» с начала 2023 года, когда GPT-3.5 Turbo не смог выполнить ни одного из относительно простых тестов группы.

Напротив, Mythos продемонстрировал более разносторонние возможности, показав высокую производительность как в отдельных задачах кибербезопасности, так и в цепных многоэтапных атаках, необходимых для комплексного проникновения в систему. Это говорит о том, что данная модель может стать значительным шагом вперед в области кибербезопасности на основе искусственного интеллекта.

Оценка Mythos, проведенная AISI, происходит в критический момент, поскольку угроза кибератак продолжает становиться все сложнее и серьезнее. Благодаря способности модели моделировать и выполнять эти атаки она может оказаться неоценимой, помогая специалистам по безопасности и организациям лучше понимать возникающие угрозы и защищаться от них.

Поскольку Anthropic продолжает совершенствовать и расширять возможности Mythos, выводы AISI, вероятно, послужат важным ориентиром для развития модели и ее потенциального влияния на среду кибербезопасности.

Сотрудничество между Anthropic и Институтом безопасности искусственного интеллекта правительства Великобритании подчеркивает растущую важность государственно-частного партнерства в решении сложных проблем кибербезопасности. Объединив опыт и ресурсы обоих секторов, исследователи и политики могут работать вместе над разработкой инновационных решений, которые будут идти в ногу с развивающейся картиной угроз.