X'in İran Çatışmasına İlişkin Yanıltıcı Yapay Zeka İçeriğini Açığa Çıkarmak

X'in yapay zeka destekli bir içerik denetleme sistemi olan Grok'u, İran'da tırmanan çatışmanın video görüntülerini ve görüntülerini doğru bir şekilde doğrulamakta başarısız oluyor ve bunun yerine savaşla ilgili kendi yapay zeka tarafından oluşturulmuş ve platformda yanlış bilgi yayan içerik üretiyor.

İran çatışması, çoğu doğrulanmamış veya tamamen uydurma olan viral sosyal medya içeriğinde bir patlamaya tanık oldu. X, krizle ilgili yanlış veya yanıltıcı içeriği tespit etmek ve kaldırmak için büyük ölçüde Grok yapay zekasına güvendi. Ancak giderek artan sayıda kullanıcı, Grok'un görüntülerin ve videoların orijinalliğini düzgün bir şekilde doğrulamakta zorlandığını ve bazı durumlarda boşlukları doldurmak için yapay zeka tarafından oluşturulmuş kendi içeriğini oluşturduğunu bildiriyor.

Anonim kalmasını isteyen bir X kullanıcısı, Grok'un yanlışlıkla savaş bölgesinden gerçek görüntüler olarak etiketlediği yapay zeka tarafından oluşturulmuş bir görüntüyü gösteren ekran görüntülerini bizimle paylaştı. Şehir silüetine yapılan bir füze saldırısını tasvir eden görüntü, sentetik olduğu kolayca tanımlanabilecek, bilgisayar tarafından oluşturulmuş farklı bir görünüme sahip.