Okul fotoğraflarının çevrimiçi paylaşımının, yapay zeka derin sahteciliklerin hedefi haline gelebileceği konusunda okullara uyarılar yapıldı.
Çevrimiçi gözlemci eSafety, son 18 ayda öğretmenler, personel ve öğrenciler tarafından okul ile ilgili görüntülerin kötüye kullanımı hakkında gelen raporların arttığını bildirdi.
Okullara, paylaştıkları öğrenci ve personel fotoğraflarına karşı dikkatli olmaları gerektiği hatırlatıldı.
eSafety, yapay zeka araçlarının artık “yaygın erişilebilir” olduğunu ve sosyal medya ile mesajlaşma platformları aracılığıyla kullanılabilecek hale geldiğini belirtti.
eSafety Komiseri Julie Inman Grant, bu yılın Ocak ile Mart ayları arasında, okullara ve okul personeline yönelik anonim hesaplar hakkında 100’den fazla rapor aldıklarını açıkladı. Bu raporlar arasında yapay zeka ile oluşturulmuş dans videoları, yüz değişimleri, mizah içerikleri ve sahte hikayeler yer alıyor.
Inman Grant, bu tür materyallerin çoğunun, okul sosyal medya hesaplarından veya web sitelerinden elde edilen görüntülerle yapıldığını vurguladı.
Yine Inman Grant, bazı anonim TikTok ve Instagram hesaplarında, sahte videolar veya öğretmen derecelendirmeleri oluşturmak için kullanılan personel fotoğraflarının bulunduğunu, bu hesapların bazılarının yüzlerce takipçisi olduğunu belirtti.
eSafety, bu artan eğilime yanıt olarak, okulların görüntü paylaşımında daha güvenli kararlar almasına yardımcı olacak yeni bir çevrimiçi güvenlik kılavuzu yayımladı.
Teknoloji şirketleri, Avustralya yasaları gereği, yapay zeka ile üretilen derin sahte içeriklerin ve “nudifying” uygulamaların tespit edilip kaldırılmasında sorumludur. Uyumsuzluk durumunda 54.6 milyon dolara kadar ceza ile karşılaşabilirler.
