Las herramientas de ciberseguridad de IA descubren vulnerabilidades de software ocultas
Los sistemas avanzados de búsqueda de errores de IA descubren vulnerabilidades previamente desconocidas en el código de software, lo que genera preocupación sobre la automatización en la ciberseguridad.
La intersección de la inteligencia artificial y la ciberseguridad alcanzó un momento crucial en agosto pasado cuando equipos de seguridad de élite se reunieron en Las Vegas para una competencia innovadora. Organizado por la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), el Desafío Cibernético de Inteligencia Artificial (AIxCC) mostró las capacidades de vanguardia de los sistemas de búsqueda de errores impulsados por IA diseñados para identificar vulnerabilidades en el código de software antes de que los atacantes pudieran explotarlas. La demostración resultó impresionante e inquietante, y reveló la naturaleza de doble filo de las herramientas de seguridad automatizadas en un mundo cada vez más digital.
El alcance del concurso era ambicioso en todos los sentidos. DARPA proporcionó a los equipos participantes 54 millones de líneas de código de software real, deliberadamente sembradas con fallas artificiales para probar las capacidades de detección de los sistemas. La competencia no se trataba simplemente de encontrar cada vulnerabilidad instalada, sino de comprender qué tan bien podrían funcionar estas herramientas de seguridad de IA en condiciones del mundo real. Los equipos invirtieron meses refinando sus algoritmos de aprendizaje automático, entrenando redes neuronales y optimizando patrones de detección para maximizar su efectividad contra las vulnerabilidades inyectadas.
Lo que surgió de la competencia de Las Vegas sorprendió incluso a los profesionales de ciberseguridad más experimentados que asistieron. Si bien las herramientas automatizadas de los equipos competidores identificaron con éxito la mayoría de los errores artificiales que DARPA había insertado intencionalmente en el código base, no se detuvieron ahí. Los sofisticados sistemas de detección de vulnerabilidades mediante IA fueron más allá de su tarea asignada y descubrieron más de una docena de errores genuinos que DARPA no había colocado en absoluto. No se trataba de falsos positivos ni anomalías inofensivas: eran fallos de seguridad reales y explotables que acechaban en el código de software auténtico.
Fuente: The Verge
