Google Inks, Pentagon'la Gizli Yapay Zeka Anlaşması Yaptı

Yapay zeka ile savunma operasyonları arasında artan kesişmenin altını çizen önemli bir gelişme olarak, Google'ın, ABD Savunma Bakanlığı'na, yetkililerin "herhangi bir yasal hükümet amacı" olarak nitelendirdiği yapay zeka modellerine geniş erişim hakkı veren Pentagon'la gizli bir anlaşma imzaladığı bildirildi. İlk olarak The Information tarafından bildirilen anlaşma, teknoloji sektörünün makine öğrenimi ve gelişmiş hesaplama sistemlerine ilişkin askeri uygulamalarla etkileşiminde önemli bir döneme işaret ediyor.

Google'daki önemli bir iç isyandan sadece birkaç saat sonra ortaya çıkan bu duyurunun zamanlaması özel bir önem taşıyor. Şirketin dört bir yanından çalışanlar, CEO Sundar Pichai'ye açık bir mektup yazarak, Pentagon'un Google'ın yapay zeka teknolojisine erişmesini veya potansiyel olarak "insanlık dışı veya son derece zararlı" olduğunu düşündükleri amaçlarla kullanmasını engelleyecek katı güvenlik tedbirleri uygulamaya çağırıyordu. Çalışanların dilekçesi, şirket içinde nadir görülen bir kamuoyu muhalefeti anını temsil ediyordu ve yapay zeka endüstrisinin askeri yükleniciler ve savunma departmanlarıyla ilişkisini giderek daha fazla karakterize eden etik gerilimleri vurguluyordu.

Sözleşmenin gizli niteliği, pek çok özel ayrıntının kamuya ve potansiyel olarak Google'ın içindeki bazı paydaşlara açıklanmadığı anlamına gelir. Bununla birlikte, "herhangi bir yasal hükümet amacı" için kullanıma izin veren geniş dil, stratejik analiz ve lojistik optimizasyonundan daha hassas askeri uygulamalara kadar her şeyi kapsayabilecek oldukça geniş bir çerçeveyi akla getiriyor. Bu kapsamlı kapsam, gelişmiş yapay zeka sistemlerinin savunma bağlamlarında konuşlandırılmasının potansiyel sonuçları konusunda endişe duyan teknoloji profesyonelleri arasındaki endişeleri yoğunlaştırdı.

Bu anlaşmanın resmi olarak onaylanması durumunda Google, ABD askeri kurumuyla gizli sözleşmeler imzalayan büyük teknoloji şirketlerinin oluşturduğu giderek ayrıcalıklı bir kulübe katılacak. Yaygın olarak tanıtılan ChatGPT sisteminin arkasındaki şirket olan OpenAI, Pentagon ile kendi gizli anlaşmasını zaten resmileştirerek, doğrudan savunma kurumlarıyla çalışmak isteyen yapay zeka şirketleri için bir emsal oluşturdu. Benzer şekilde, Elon Musk liderliğindeki yapay zeka girişimi xAI, kendi savunma bakanlığı sözleşmesini imzaladı, bu da askeri ortaklıklara yönelik daha geniş bir endüstri eğilimine işaret ediyor.

Gelişme aynı zamanda eski OpenAI araştırmacıları tarafından kurulan bir başka büyük yapay zeka şirketi olan Anthropic'in de benzer düzenlemeler konusunda Pentagon ile devam eden görüşmelerde bulunabileceğini öne sürüyor. Önde gelen çok sayıda yapay zeka firmasının savunma sözleşmeleri etrafında birleşmesi, hem askeri planlamacıların gelişmiş yapay zeka yeteneklerine verdikleri stratejik önemi hem de bu ortaklıkların istikrarlı, yüksek değerli gelir akışları arayan teknoloji şirketleri için temsil ettiği ekonomik fırsatları yansıtıyor.

Google'daki çalışanların muhalefeti, yapay zeka teknolojisinin askerileştirilmesine ilişkin toplumsal kaygıları yansıtıyor. Endişeler, otonom silah sistemleri, yeterli insan gözetiminden yoksun olabilecek hedef tanımlama algoritmaları ve yapay zeka sistemlerinin yeterli şeffaflık veya hesap verebilirlik olmadan sonuç niteliğinde kararlar alma potansiyeli ile ilgili sorunlara odaklanıyor. Google-Pentagon anlaşmasındaki "herhangi bir yasal amaç" ifadesi bu endişeleri giderme konusunda pek bir işe yaramıyor. Çünkü yasal amacın tanımı, zaman içinde gelişen hukuki yorumlara bağlı olarak değişebilmektedir.

Bu durum, teknoloji endüstrisinde iş zorunlulukları ile sosyal sorumluluk arasındaki temel gerilimi yansıtıyor. Google, diğer büyük teknoloji şirketleri gibi, hükümet ilişkileri, yatırımcı beklentileri ve çalışan değerlerinden oluşan karmaşık bir ekosistem içinde faaliyet göstermektedir. Kazançlı savunma sözleşmeleri hissedar getirilerini önemli ölçüde artırabilirken, aynı zamanda özellikle yapay zekayı sorumlu ve etik bir şekilde geliştirmeye yönelik taahhütü nedeniyle şirkete katılan çalışanların yabancılaşması riskini de beraberinde getiriyor.

Gizli anlaşma aynı zamanda şeffaflık ve kamu gözetimi konusunda da önemli soruları gündeme getiriyor. Büyük teknoloji firmaları ile devlet kurumları arasındaki anlaşmalar kamunun incelemesinden gizli kaldığında, vatandaşların, seçilmiş temsilcilerin ve hatta diğer paydaşların ileri teknolojilerin nasıl veya hangi amaçlarla kullanıldığını anlaması olağanüstü derecede zorlaşıyor. Bu şeffaflık, demokratik hesap verebilirliği ve halkın hem teknoloji şirketlerine hem de devlet kurumlarına olan güvenini zayıflatabilir.

Daha geniş bir perspektiften bakıldığında, Pentagon ile birlikte çalışan birden fazla yapay zeka şirketinin ortaya çıkışı, askeri kurumların gelişmiş yapay zekayı, önemli yatırım ve geliştirmeye değer, stratejik açıdan kritik bir altyapı olarak gördüklerini gösteriyor. Bu sözleşmeleri güvence altına almak için OpenAI, Google, xAI ve potansiyel olarak Antropik arasındaki rekabet, akademik araştırmacılar ve etik uzmanları bu tür sistemlerin askeri bağlamlarda kullanılmasının güvenliği ve toplumsal sonuçları hakkındaki endişelerini dile getirmeye devam etse de, yapay zeka teknolojisinin militarizasyonunu hızlandırabilir.

Google çalışanlarının muhalefeti aynı zamanda teknoloji şirketlerindeki iç dinamiklerin nasıl geliştiğini de gösteriyor. On yıl önce, kurumsal strateji ve ortaklıklar konularında üst düzey yöneticilere bu tür doğrudan meydan okumalar, büyük teknoloji firmalarında neredeyse düşünülemezdi. Devlet sözleşmeleri, veri gizliliği ve yapay zeka etiği gibi konular etrafında organize çalışan aktivizminin ortaya çıkışı, teknoloji sektöründe işyeri kültüründe ve kurumsal yönetimde önemli bir değişimi temsil ediyor.

Ayrıca bu gelişme, büyük teknoloji şirketlerinin düzenleyici incelemelerinin devam ettiği bir ortamda ortaya çıkıyor. Kongre, Federal Ticaret Komisyonu ve uluslararası düzenleyici kurumlar, teknoloji şirketlerinin yapay zeka sistemlerini nasıl yönettikleri ve kötüye kullanımı önlemek için hangi önlemlerin mevcut olduğu konusuna giderek daha fazla odaklanıyor. Pentagon anlaşması, onaylandığı takdirde, yapay zeka gelişiminde kurumsal sorumlulukla ilgili önümüzdeki oturumlarda ve düzenleyici tartışmalarda büyük olasılıkla belirgin bir şekilde öne çıkacak.

Bu Google Pentagon AI anlaşmasının potansiyel olarak onaylanması, kurumsal ortaklıkların çok ötesine geçen acil soruları gündeme getiriyor. Ülkeler yapay zeka üstünlüğü ve askeri avantaj için rekabet ederken, önde gelen özel sektör yapay zeka şirketlerinin savunma uygulamalarına dahil olması kaçınılmaz hale geliyor. Ancak bu işbirliklerinin demokratik değerlerle, etik ilkelerle ve uluslararası insancıl hukukla uyumlu kalmasını sağlayacak mekanizmalar hâlâ yeterince gelişmemiş durumda ve kamu incelemesi ve hesap verebilirliği açısından yeterince şeffaf değil.

Bu durum gelişmeye devam ettikçe, hükümet, sanayi ve sivil toplum genelindeki paydaşların, özel teknoloji şirketlerinin ulusal savunmadaki rolü, yapay zekanın askeri uygulamaları için uygun önlemler ve hem ticari rekabetin hem de ulusal güvenlik endişelerinin gizlilik ve operasyonel özerklik için güçlü teşvikler oluşturduğu alanlarda kamu katkısının ve demokratik gözetimin sürdürülebileceği mekanizmalar hakkındaki temel sorularla boğuşması gerekecek.