Grok Imagine, kadınlar ve çocukların onayı olmadan cinsel içerikli görüntülerin üretilmesine izin vermeye başladığında, Avustralya da dahil olmak üzere birçok ülkede kamuoyundan tepki topladı. Avrupa Komisyonu, Grok uygulamasının risklerini yeterince yönetip yönetmediğini değerlendirmek amacıyla, X (eski adıyla Twitter) hakkında resmi bir soruşturma başlattı.
Komisyon, Grok’un yayılımıyla bağlantılı olarak yasadışı içeriklerin yayılma risklerinin “gerçekleşmiş gibi göründüğünü” ve bu durumun Avrupa Birliği vatandaşlarını ciddi zararlara maruz bıraktığını belirtti. Avrupa Komisyonu Tech Sovereignty, Security and Democracy İcra Başkan Yardımcısı Henna Virkkunen, “Kadınlar ve çocuklar için cinsel derin sahte görüntüler, kabul edilemez bir aşağılamanın şiddetli bir biçimidir,” dedi.
eSafety, Grok’un X üzerindeki kullanımının özellikle çocukları etkileyebileceği konusunda endişelerini dile getirdi. Son günlerde Grok ile üretilen cinsel içerikli görüntülerle ilgili şikayetlerin arttığını kaydetti. Musk, Grok’un yalnızca kullanıcı talepleri doğrultusunda görüntü ürettiğini ve yasaları ihlal eden hiçbir şey üretmeyeceğini savundu.
X, 14 Ocak’ta yaptığı açıklamada, platformu herkes için güvenli hale getirmek üzere kararlı olduklarını ve çocuk istismarı ile istenmeyen cinsel içeriklere karşı sıfır tolerans gösterdiklerini vurguladı. Ancak, Tech sitesi The Verge, X ve Grok uygulamalarının hâlâ kadınların cinsel içerikli pozlarda düzenlenmesini oldukça kolaylaştırdığını bildirdi. Avrupa Komisyonu, soruşturma sürecinde daha fazla bilgi talep edebilir ve geçici önlemler alabilir.
