Dünya genelindeki sosyal medya kullanıcıları, son birkaç hafta içinde paylaşımlarında artan yapay zeka destekli videoların farkına varmış olabilir. Uzmanlar, bu durumun bazı kullanıcıları platformlardan uzaklaştırabileceği konusunda uyarıda bulundu.
OpenAI, 30 Eylül’de en yeni video üreticisi Sora’yı piyasaya sürdü ve bu modelin daha önceki video üretim modellerine göre “daha fiziksel olarak doğru, gerçekçi ve daha kontrol edilebilir” olduğu belirtildi.
OpenAI, “Sora 2, daha önceki video üretim modellerinin son derece zor veya imkansız bulduğu şeyleri yapabiliyor,” dedi.
Sora, kullanılabilir durumda ancak şu anda davetle çalışan bir program olarak herkesin erişimine açılana kadar sınırlı bir kullanım sunuyor.
Halihazırda yüzlerce derin sahte video üretildi. Hastanelerden çıkan yeni doğmuş bebekler, kasırgalara uçan hayvanlar ve yaşlı kadınların havaya fırlatıldığı sahneler, şu anda en çok izlenen klipler arasında yer alıyor.
Ayrıca, merhum Kraliçe Elizabeth II, Michael Jackson ve ABD Başkanı Donald Trump gibi figürler de bu videoların içinde yer alıyor.
Melbourne Üniversitesi Yapay Zeka ve Dijital Etik Merkezi’nden Marc Cheong, bu videoların “AI slop” olarak tanımladığı düşük kaliteli içeriklerin bir evrimi olduğunu belirtti. “Bir şeylerin çok iyi görünmesi durumunda, bu içeriklere karşı sağlıklı bir şüphe ile yaklaşmak önemlidir,” dedi.
Sora’nın videoları, özellikle daha gerçekçi senaryoları tasvir ederken ilk bakışta ayırt edilmesi zor olabiliyor. Ancak, tüm videoların içinde bir uygulama belirleyici su izi bulunuyor.
Cheong, bazı Sora derin sahte videolarının OpenAI’yi zora soktuğunu belirtti. Kullanıcılar, Martin Luther King Jr. gibi sivil haklar aktivistlerini hedef alarak, onun ünlü “Bir hayalim var” konuşmasını ve bazı yanlış tasvirlerini içeren videolar üretti.
Bu durum, King’in mirasçıları tarafından endişe ile karşılandı ve OpenAI, tarihi figürler için güvenlik önlemlerini artırmak amacıyla King’in görüntülerinin kullanımını duraklattı.
Bu tür içeriklerin, tanınmış kişilerin haklarına zarar verebileceği ve etik sorunlar yaratabileceği ifade ediliyor. Cheong, “Bu yapay zeka üretimlerinin maddi kazanç için kullanılması durumunda, bu durum daha da etik bir sorun haline geliyor,” dedi.
Cheong, artan bu yapay zeka içeriklerinin bazı kişileri sosyal medyadan uzaklaştırabileceğini belirtti ancak sosyal medyanın dikkat çekmek için optimize edildiğini de vurguladı.
