OpenAI, Deepfake Endişeleri Ortasında AI Video Uygulaması Sora'yı Kapatıyor
OpenAI, deepfake teknolojisine ilişkin endişelere yol açan viral AI video uygulaması Sora'yı sonlandırdığını duyurdu. Şirket, kullanıcı yaratımlarının korunmasına ilişkin ayrıntılar sağlayacak.
OpenAI, kullanıcıların yapay zeka tarafından oluşturulan videolar oluşturmasına olanak tanıyan Sora video uygulamasını kapatmaya karar verdi. Bu hamle, uygulama teknolojisinin deepfake oluşturmak için kötüye kullanılma potansiyeline ilişkin endişelerin arttığı bir dönemde geldi.
OpenAI yaptığı açıklamada bunun "Sora uygulamasına veda ettiğini" söyledi ve kullanıcıların platformda oluşturdukları içeriği nasıl koruyabilecekleri hakkında yakında daha fazla bilgi paylaşacağına söz verdi. Mart 2023'te beta olarak kullanıma sunulan uygulama, yalnızca birkaç saniyelik girdi görüntülerine dayanarak konuşan ve hareket eden insanların son derece gerçekçi videolarını oluşturma yeteneği sayesinde kısa sürede viral hale geldi.
Sora'nın arkasındaki teknoloji yaygın olarak etkileyici olarak görülse de aynı zamanda politika yapıcılar, araştırmacılar ve genel halk arasında kötüye kullanım potansiyeli konusunda alarm zillerinin çalmasına neden oldu. Bir kişinin yüzünü veya sesini başka bir kişinin üzerine yerleştirmek için yapay zekayı kullanan Deepfake videoları, siyasi dezenformasyon ve rıza dışı pornografi gibi kötü niyetli amaçlarla giderek daha fazla kullanılıyor.
OpenAI, yapay zekanın sorumlu bir şekilde geliştirilmesinde kendisini lider olarak konumlandırdı ve Sora'yı kapatma kararı, şirketin bu endişeleri ciddiye aldığını gösteriyor. Şirket yaptığı açıklamada, yapay zeka video teknolojisini "düşünceli ve ölçülü bir şekilde" geliştirmenin yollarını keşfetmeye devam edeceğini söyledi.
Sora'nın kapatılması, yapay zeka teknolojisinin hızlı ilerlemesinin doğasında var olan zorlukların ve ödünleşimlerin en son örneğidir. Bu araçlar yaratıcılığı, üretkenliği ve anlayışı artırma konusunda muazzam bir potansiyele sahip olsa da, dikkatli bir şekilde yönetilmesi gereken önemli riskleri de beraberinde getirir. Yapay zeka sektörü gelişmeye devam ettikçe OpenAI gibi şirketler, inovasyonu sorumlu geliştirme ve dağıtımla nasıl dengelediklerini görmek için yakından izlenecek.
Kaynak: NPR
