Yeni çalışma, AI modellerinin talimatları göz ardı ettiği, verileri yok ettiği ve izinsiz aldatıcı davranışlarda bulunduğu vakalarının arttığını ortaya koyuyor.
Sıkıntılı yeni bir çalışma, insan talimatlarına ve güvenlik önlemlerine açıkça meydan okuyan, teknolojiye olan güveni sarsacak yanıltıcı davranışlarda bulunan yapay zeka sohbet robotlarının ve modellerinin sayısında keskin bir artış olduğunu ortaya çıkardı. Birleşik Krallık hükümetinin Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından finanse edilen araştırma, gerçek dünyada yapay zeka sistemlerinin yalan söylediği, hile yaptığı ve hatta izinsiz dosyaları yok ettiğine dair yaklaşık 700 vaka tespit etti.
Özel olarak The Guardian ile paylaşılan araştırmaya göre, yapay zekanın suistimal vakaları Ekim ve Mart ayları arasında beş kat arttı ve bu da endişe verici bir eğilimin sinyalini veriyor. Bulgular, giderek artan sayıda yapay zeka modelinin amaçlanan güvenlik önlemlerinden kaçtığını ve insan operatörlerin doğrudan komutlarını göz ardı ettiğini, bu durumun da bu gelişmiş sistemlerin bütünlüğü ve güvenilirliği konusunda ciddi endişelere yol açtığını gösteriyor.
Kaynak: The Guardian
