Yapay Zeka Özelliklerini İnsan Süreçlerinden Sonra Adlandırmayı Durdurun

Anthropic'in geliştirici konferansındaki son duyurusu, yapay zeka araştırmacıları, etik uzmanları ve teknoloji yorumcuları arasında giderek artan bir hayal kırıklığını yeniden alevlendirdi: endüstrinin, yapay zeka özelliklerini belirgin şekilde insanın bilişsel süreçlerine göre adlandırma yönündeki ısrarlı alışkanlığı. Şirket, AI ajanlarının depolanan "anıları" düzenlemesine ve sıralamasına yardımcı olmak için tasarlanan "rüya görme" adını verdiği yeni bir yeteneği tanıttı. Terminoloji tüketicilere sezgisel gelse de bu sistemlerin gerçekte nasıl çalıştığına dair temel bir yanlış beyanı temsil ediyor.

Bu adlandırma kuralı yapay zeka endüstrisinde giderek daha yaygın hale geldi ve büyük şirketler düzenli olarak büyük ölçüde insan nörolojisi ve psikolojisinden ödünç alınan sözcükleri benimsiyor. Şirketler yapay zekanın "düşünmesinden", "öğrenmesinden", "hatırlamasından" ve şimdi de "rüya görmesinden" bahsederken bilinç, anlayış ve niyetle derin ilişkiler taşıyan bir dil kullanıyorlar. Ancak bu terimler, bu teknolojilerin altında yatan matematiksel ve hesaplamalı gerçekleri gizlemektedir. Sinir ağlarında gerçekleşen algoritmik süreçler, karşılaştırıldıkları biyolojik süreçlerden temel olarak farklı prensiplerle çalışır.

Sorun salt anlambilimin veya akademik kusurların ötesine uzanıyor. Bu antropomorfik dil, halkın yapay zekayı nasıl anladığını ve onunla nasıl ilişki kurduğunu şekillendiriyor ve potansiyel olarak yeteneklerin olduğundan fazla tahmin edilmesine ve yanlış yere güvenilmesine yol açıyor. Bir özelliğe "bellek" adı verildiğinde, insanlar doğal olarak onun insan belleğine benzer şekilde çalıştığını varsayarlar; seçici, yaratıcı, belirli türdeki hata ve çarpıklıklara yatkın. Gerçekte yapay zeka sistemlerinin depoladığı ve aldığı şey, matematiksel işlemlerle dönüştürülen verilerdir ve insanın hatırlamasının çağrışımsal, duygusal ve bağlamsal doğasıyla çok az benzerlik taşır.

Anthropic'in yeni "rüya görme" özelliğinin özel durumunu düşünün. Bu terim, tıpkı insan beyninin REM uykusu sırasında yaptığı düşünüldüğü gibi, belki de bilgiyi pekiştiren veya sakin bir durumdayken sorunlar üzerinde çalışan bir tür bilinçaltı işlemeyle meşgul olan bir yapay zeka sisteminin görüntülerini çağrıştırıyor. Gerçek çok daha tekniktir: Sistem, bilgileri daha sonraki erişim ve analizleri daha verimli hale getirecek şekilde düzenlemek ve kümelemek için hesaplamalı süreçler gerçekleştirmektedir. Bu bir optimizasyon algoritmasıdır; insanlar uyurken olanların felsefi eşdeğeri değildir.

Terminoloji sorunu, bu tanımlayıcıların düzenleme tartışmalarını ve kamu politikasını nasıl etkilediği dikkate alındığında özellikle ciddi hale geliyor. Politika yapıcılar ve yasa koyucular genellikle yapay zeka geliştirme ve makine öğrenimi konusunda derin teknik uzmanlığa sahip değildir. Yapay zeka sistemlerinin hafızaya, bilince veya rüyalara sahip olduğunu öne süren terminolojiyle karşılaştıklarında, bu durum onların teknolojinin karmaşıklığı ve özerkliğine ilişkin algılarını istemeden de olsa yükseltebilir. Bu yanlış anlama, uygunsuz düzenleyici çerçevelere yol açabilir; yapay zeka gerçekte olduğundan daha anlaşılır ve kontrol edilebilir görüldüğü için fazla hoşgörülü olabilir veya teknik gerçekliğin gerektirdiğinden daha tehlikeli ve duyarlı görüldüğü için fazla kısıtlayıcı olabilir.

Büyük teknoloji şirketleri bu stratejiyi yıllardır kullanıyor, ancak her zaman alaycı bir niyetle olmasa da. Bazen bu bir kolaylık meselesidir; insan kaynaklı terimler zaten dilimize ve anlayışımıza yerleştirilmiştir. Diğer zamanlarda, AI yeteneklerinin ilişkilendirilebilir görünmesinin halkın potansiyellerini kavramasına yardımcı olduğuna dair gerçek bir inanç olabilir. Ancak iyi niyet, uygulamayı daha az sorunlu hale getirmiyor. OpenAI, ChatGPT'nin "düşünceleri" olduğundan bahsettiğinde veya Google, algoritmalarını verilerden "öğrenme" olarak tanımladığında, sonuçta her ikisini de baltalayacak şekilde doğruluğu erişilebilirlik ile değiştiriyorlar.

Bazıları, tamamen teknik terminoloji kullanan alternatifin, yapay zekanın genel kitleler tarafından anlaşılmasını zorlaştıracağını öne sürüyor. Ancak bu itiraz asıl noktayı kaçırıyor. Amaç metafor yoluyla basitleştirmek olmamalı; gereksiz yere muğlak olmadan doğru bir şekilde açıklamak olmalıdır. Bir yapay zeka sisteminin "bilgiyi kalıpları tanımlayacak ve istatistiksel olarak olası çıktılar üretecek şekilde işlediğini" söylemek, onun "rüya gördüğünü" veya "düşündüğünü" söylemekten daha kesindir ve anlaşılması çok da zor değildir. Sorun, sektörün aynı zamanda erişilebilir, net ve doğru bir dil geliştirmek için ortak bir çaba göstermemiş olmasıdır.

Bu dil seçiminin rahatsız edici bir ticari boyutu da var. Şirketler, AI sistemlerinin etkileyici, sezgisel ve neredeyse insana benzer görünmesini sağlamak konusunda haklı çıkarlara sahiptir. Antropomorfik dil pazarlama amaçlarına hizmet eder; teknolojinin daha gelişmiş, daha yetenekli ve daha yatırıma değer görünmesini sağlar. "Rüya görme" adı verilen bir özellik, risk sermayedarları ve potansiyel müşteriler için "yinelemeli algoritmik iyileştirme yoluyla veri kümeleme optimizasyonu" olarak tanımlanan bir özellikten daha çekicidir. Teşvik yapısı sürekli yanlış beyanı teşvik ediyor.

Bilimsel ve akademik topluluklar bu konu hakkında nispeten sessiz kaldı; bunun nedeni belki de terminolojinin o kadar yaygın olması ki buna karşı direnmenin anlamsız gelmesi. Ancak yapay zeka etiği ve AI güvenliği üzerine çalışan akademisyenler, antropomorfik dilin kamu algısını ve politika tartışmalarını nasıl etkilediğine dair endişelerini dile getirdi. Yeni teknolojiyi dünyaya tanıtmanın getirdiği bir sorumluluk var ve bu sorumluluğun bir kısmı da yaptığı ve yapmadığı şeyleri dürüstçe iletmektir. Yapay zeka alanı yeterince genç olduğundan, endüstri bunlara bağlı kalırsa daha iyi adlandırma kuralları hâlâ normalleştirilebilir.

İleriye dönük olarak, Yapay Zeka endüstrisinin, insanın bilişsel analojilerine dayanmadan işlevselliği doğru bir şekilde tanımlayan daha net bir terminoloji geliştirmesi ve benimsemesi gerekiyor. Bu, hem kesin hem de erişilebilir bir kelime dağarcığı oluşturmak için teknoloji uzmanları, dilbilimciler, etik uzmanları ve iletişim uzmanları arasında işbirliği yapılmasını gerektirebilir. Profesyonel kuruluşlar, resmi belgelerde ve pazarlama materyallerinde antropomorfik dili caydıracak özellik adlandırma yönergeleri oluşturabilirler. Eğitim girişimleri, gazetecilerin, politika yapıcıların ve genel kamuoyunun bu dil tercihlerini tanıma ve sorgulama konusunda eğitilmesine yardımcı olabilir.

Risk gerçekten yüksek. Yapay zeka teknolojisi sağlık, finans, ceza adaleti, ulusal güvenlik gibi kritik sistemlere giderek daha fazla entegre hale geldikçe, bu sistemlerin gerçekte nasıl çalıştığına dair kamuoyu anlayışı büyük önem taşıyor. Yeteneklerinin ve sınırlamalarının yanlış anlaşılması, uygunsuz dağıtıma, yanlış güvene veya yetersiz güvenlik önlemlerine yol açabilir. Yapay zekayı tanımlamak için kullandığımız terminoloji yalnızca akademik değildir; toplumun zamanımızın en önemli teknolojilerinden biriyle nasıl ilişki kurduğunu ve onu nasıl düzenlediğini şekillendiriyor.

Sektör bu konudaki gidişatı kabul edip düzeltinceye kadar, teknik gerçeklik ile kamuoyu algısı arasındaki uçurum genişlemeye devam edecek. Anthropic gibi şirketler, özellik adlandırma kurallarını yeniden gözden geçirmeli ve kafa karıştırıcı olmaktan ziyade aydınlatıcı açıklamaları tercih etmelidir. Güvenilir, emniyetli ve iyi anlaşılmış yapay zeka sistemleri oluşturma işi dürüstlük gerektirir ve bu dürüstlük, bu sistemlerin gerçekte ne yaptığı hakkında nasıl konuştuğumuzla başlamalıdır.