AISI del Reino Unido pone a prueba la IA Mythos de Anthropic para la ciberseguridad
El Instituto de Seguridad de IA del gobierno del Reino Unido evalúa el nuevo modelo Mythos AI de Anthropic, valorando sus capacidades en simulación de ciberataques y pruebas de penetración.
Anthropic anunció recientemente el lanzamiento restringido de su modelo Mythos Preview, promocionando sus impresionantes capacidades en tareas de seguridad informática. Ahora, el AI Security Institute (AISI) del gobierno del Reino Unido ha publicado una evaluación inicial de las capacidades de ciberataque del modelo, que proporciona una verificación pública independiente de Las afirmaciones de Anthropic.
Los hallazgos de AISI sugieren que, si bien Mythos puede no ser significativamente diferente de otros modelos fronterizos recientes en términos de tareas individuales relacionadas con la ciberseguridad, podría diferenciarse por su capacidad para encadenar eficazmente estas tareas en una serie de ataques de varios pasos necesarios para infiltrarse completamente en algunos sistemas.
El instituto ha estado sometiendo varios modelos de IA a desafíos Capture the Flag desde principios de 2023, cuando GPT-3.5 Turbo tuvo problemas para completar cualquiera de las pruebas relativamente sencillas del grupo.
Por el contrario, Mythos ha demostrado una capacidad más completa, exhibiendo un sólido rendimiento tanto en tareas individuales de ciberseguridad como en los ataques encadenados de varios pasos necesarios para una infiltración integral del sistema. Esto sugiere que el modelo podría ser un importante paso adelante en el campo de la ciberseguridad impulsada por la IA.
La evaluación de AISI de Mythos llega en un momento crítico, ya que la amenaza de ataques cibernéticos continúa creciendo en complejidad y gravedad. Con la capacidad del modelo para simular y ejecutar estos ataques, podría resultar invaluable para ayudar a los profesionales y organizaciones de seguridad a comprender y defenderse mejor contra las amenazas emergentes.
A medida que Anthropic continúa refinando y ampliando las capacidades de Mythos, los hallazgos del AISI probablemente sirvan como un punto de referencia importante para el desarrollo del modelo y su impacto potencial en el panorama de la ciberseguridad.
La colaboración entre Anthropic y el AI Security Institute del gobierno del Reino Unido destaca la creciente importancia de las asociaciones público-privadas para abordar los complejos desafíos de la ciberseguridad. Al combinar la experiencia y los recursos de ambos sectores, los investigadores y los responsables políticos pueden trabajar juntos para desarrollar soluciones innovadoras que sigan el ritmo del cambiante panorama de amenazas.
Fuente: Ars Technica
