Birleşik Krallık'tan AISI, Anthropic'in Mythos Yapay Zekasını Siber Güvenlik Açısından Test Ediyor

Anthropic kısa süre önce Mythos Preview modelinin sınırlı sürümünü duyurdu ve bilgisayar güvenliği görevlerindeki etkileyici yeteneklerini öne çıkardı. Şimdi, Birleşik Krallık hükümetinin Yapay Zeka Güvenlik Enstitüsü (AISI), modelin siber saldırı yeteneklerine ilişkin bir ilk değerlendirmesini yayınladı ve Anthropic'in bağımsız, herkese açık doğrulamasını sağladı. iddialar.

AISI'nin bulguları, Mythos'un bireysel siber güvenlikle ilgili görevler açısından diğer güncel öncü modellerden önemli ölçüde farklı olmasa da, bu görevleri bazı sistemlere tam olarak sızmak için gereken çok adımlı saldırı dizileri halinde etkili bir şekilde zincirleme becerisi sayesinde kendisini diğerlerinden ayırabileceğini gösteriyor.

Enstitü, GPT-3.5 Turbo'nun grubun nispeten basit testlerinden herhangi birini tamamlamakta zorlandığı 2023'ün başlarından bu yana, özel olarak tasarlanmış Capture the Flag yarışmaları yoluyla çeşitli yapay zeka modellerini uyguluyor.

Buna karşılık, Mythos daha kapsamlı bir yetenek sergileyerek hem bireysel siber güvenlik görevlerinde hem de kapsamlı sistem sızması için gereken zincirleme çok adımlı saldırılarda güçlü bir performans sergiledi. Bu, modelin Yapay zeka odaklı siber güvenlik alanında ileriye doğru atılmış önemli bir adım olabileceğini gösteriyor.

Siber saldırı tehdidinin karmaşıklığı ve ciddiyeti artmaya devam ederken, AISI'nin Mythos hakkındaki değerlendirmesi kritik bir zamana denk geliyor. Modelin bu saldırıları simüle etme ve yürütme yeteneği sayesinde, güvenlik profesyonellerinin ve kuruluşların yeni ortaya çıkan tehditleri daha iyi anlamalarına ve onlara karşı savunma yapmalarına yardımcı olma konusunda paha biçilemez bir değere sahip olduğu ortaya çıkabilir.

Anthropic, Mythos'un yeteneklerini geliştirmeye ve genişletmeye devam ettikçe, AISI'nin bulguları muhtemelen modelin gelişimi ve siber güvenlik ortamı üzerindeki potansiyel etkisi için önemli bir referans noktası görevi görecek.

Anthropic ile Birleşik Krallık hükümetinin Yapay Zeka Güvenlik Enstitüsü arasındaki işbirliği, siber güvenliğin karmaşık zorluklarının çözümünde kamu-özel sektör ortaklıklarının giderek artan önemini vurguluyor. Araştırmacılar ve politika yapıcılar, her iki sektörün uzmanlığını ve kaynaklarını birleştirerek, gelişen tehdit ortamına ayak uyduran yenilikçi çözümler geliştirmek için birlikte çalışabilirler.