Yapay Zeka Uzmanı, OpenAI Denemesinde AGI Silahlanma Yarışı Konusunda Uyardı

Yapay zeka araştırmalarında dünyanın en saygın seslerinden biri olan

Stuart Russell, OpenAI'ye karşı devam eden yasal işlemlerde kritik bir figür olarak ortaya çıktı. Gelişmiş yapay zeka sistemlerinin sonuçlarını incelemek için onlarca yıl çalışmış ünlü bilgisayar bilimci, çarpıcı bir mesajla uzman tanık olarak kürsüye çıktı: Gittikçe daha güçlü hale gelen yapay zeka teknolojilerini geliştirmeye yönelik küresel rekabet, insan çıkarlarını tehdit eden tehlikeli ve istikrarsızlaştırıcı bir silahlanma yarışını tetikleyebilir.

Russell'ın denemeye katılımı, toplumların sınırdaki yapay zeka laboratuvarlarını nasıl düzenlemeleri gerektiği ve daha yetenekli sistemlere yönelik yarışlar konusunda devam eden tartışmada önemli bir anı temsil ediyor. Tanıklığı, yapay zeka güvenliği, etiği ve yönetişimi üzerine onlarca yıllık araştırmalardan yararlanıyor ve bu da onu, kontrolsüz yapay zeka gelişiminin ortaya çıkardığı varoluşsal riskler konusunda benzersiz bir ses haline getiriyor. Bilgisayar bilimci, uygun bir gözetim ve uluslararası işbirliği olmadan, yapay genel zeka (AGI) arayışının, her büyük oyuncunun (ister hükümet ister özel şirket) güvenlik önlemleri konusunda işin kolayına kaçma zorunluluğu hissettiği bir rekabet dinamiğine dönüşebileceğini sürekli olarak savundu.

Kariyeri boyunca Russell, hükümetlerin öncü yapay zeka teknolojilerinin gelişimini kontrol etme ve yönlendirmede daha aktif bir rol oynaması gerektiğini dile getirdi. Akademik çalışmaları ve kamuoyuna yaptığı açıklamalar, YGZ geliştirmedeki risklerin yalnızca gönüllü endüstri taahhütlerine veya piyasa odaklı teşviklere dayanamayacak kadar yüksek olduğunu vurguladı. Bunun yerine Russell, geçmişte nükleer teknoloji ve diğer potansiyel olarak tehlikeli yeniliklerin düzenlenmesine benzer şekilde, yapay zeka gelişiminin hükümet tarafından düzenlenmesini savunuyor.

Russell'ın uyardığı YGZ silahlanma yarışı kavramı, yapay zeka güvenliği savunucuları için özel bir kabus senaryosunu temsil ediyor. Bu senaryoda, ülkeler ve şirketler öncelikle YGZ kabiliyetini kazanmaya o kadar odaklanırlar ki, güvenlik araştırmaları ve gözetim mekanizmalarının önceliklerini bırakırlar. Her yarışmacı, sağlam güvenlik önlemlerini uygulama konusunda yavaşlamaları halinde, daha az tedbirli olan rakiplerinin gerisinde kalacaklarından korkuyor. Bu bir klasik yaratır