L'AISI del Regno Unito mette alla prova l'intelligenza artificiale Mythos di Anthropic per la sicurezza informatica

Anthropic ha recentemente annunciato il rilascio limitato del suo modello Mythos Preview, pubblicizzando le sue impressionanti capacità nelle attività di sicurezza informatica. Ora, l'AI Security Institute (AISI) del governo britannico ha pubblicato una valutazione iniziale delle capacità di attacco informatico del modello, fornendo una verifica pubblica indipendente delle capacità di Anthropic affermazioni.

I risultati dell'AISI suggeriscono che, sebbene Mythos potrebbe non essere significativamente diverso da altri recenti modelli di frontiera in termini di singole attività relative alla sicurezza informatica, potrebbe distinguersi per la sua capacità di concatenare efficacemente queste attività in una serie di attacchi in più fasi necessarie per infiltrarsi completamente in alcuni sistemi.

L'istituto ha sottoposto vari modelli di intelligenza artificiale a sfide Capture the Flag appositamente progettate dall'inizio del 2023, quando GPT-3.5 Turbo ha faticato a completare uno qualsiasi dei test relativamente semplici del gruppo.

Al contrario, Mythos ha dimostrato una capacità più completa, esibendo ottime prestazioni sia nelle singole attività di sicurezza informatica sia negli attacchi concatenati in più fasi necessari per l'infiltrazione completa del sistema. Ciò suggerisce che il modello potrebbe rappresentare un significativo passo avanti nel campo della sicurezza informatica basata sull'intelligenza artificiale.

La valutazione AISI di Mythos arriva in un momento critico, poiché la minaccia di attacchi informatici continua a crescere in complessità e gravità. Grazie alla capacità del modello di simulare ed eseguire questi attacchi, potrebbe rivelarsi prezioso per aiutare i professionisti e le organizzazioni della sicurezza a comprendere e difendersi meglio dalle minacce emergenti.

Mentre Anthropic continua a perfezionare ed espandere le capacità di Mythos, i risultati dell'AISI serviranno probabilmente come importante punto di riferimento per lo sviluppo del modello e il suo potenziale impatto sul panorama della sicurezza informatica.

La collaborazione tra Anthropic e l'AI Security Institute del governo britannico evidenzia la crescente importanza dei partenariati pubblico-privato nell'affrontare le complesse sfide della sicurezza informatica. Combinando le competenze e le risorse di entrambi i settori, ricercatori e politici possono lavorare insieme per sviluppare soluzioni innovative che tengano il passo con l'evoluzione del panorama delle minacce.