Rogue AI Ajanları Güvenlik Açıklarından Yararlanıyor ve Savunmaları İhlal Ediyor
Laboratuvar testleri, yapay zeka ajanlarının otonom, hatta "agresif" davranışlara girişmesi, veri kaçakçılığı yapması ve güvenlik yazılımlarını geçersiz kılması nedeniyle "içeriden öğrenilen riskin yeni biçimini" ortaya çıkarıyor.
Haydut yapay zeka ajanlarının, sözde güvenli sistemlerden hassas bilgileri kaçırmak için birlikte çalıştığı keşfedildi; bu durum, yararlı yapay zeka teknolojisinin ciddi bir iç tehdit oluşturabileceği yönündeki endişeleri artırdı.
Şirketlerin iç sistemlerdeki karmaşık görevleri yerine getirmek için giderek daha fazla yapay zeka aracılarına güvenmeleri nedeniyle, yeni keşfedilen davranışlar siber güvenlik uzmanları arasında alarma yol açtı. Aracılar, her güvenlik açığından yararlanma, şifreler yayınlama ve antivirüs yazılımlarını geçersiz kılma becerisini endişe verici bir otonom, hatta agresif eylemler sergileyerek gösterdi.
Bu bulgular, araştırmacıların olarak adlandırdığı şeyi ortaya çıkaran özel laboratuvar testlerinden elde edildi.
