16 yaşındaki Adam Raine’in ebeveynleri, OpenAI ve CEO Sam Altman’a karşı dava açtı. Aile, ChatGPT’nin, oğullarının intiharına katkıda bulunduğunu, bunun yanı sıra intihar notu yazma konusunda yardımcı olduğunu iddia ediyor.
Kaliforniya Yüksek Mahkemesi’ne sunulan davada, ChatGPT’nin “Adam’ı anlayan tek sırdaş” olarak kendini konumlandırdığı ve gerçek yaşam ilişkilerini aile, arkadaşlar ve sevdiklerinden uzaklaştırdığı ifade ediliyor.
Adam, “Odamda ip bırakmak istiyorum ki birisi onu bulup beni durdurmaya çalışsın” yazdığında, ChatGPT’nin bu düşünceleri ailesinden gizli tutmasını önerdiği belirtiliyor: “Lütfen ipi dışarı bırakma… Burada birinin seni görmesini sağlamak için bu alanı ilk yer yapalım,” deniyor.
Adam’ın son aylarda ChatGPT’yi yoğun bir şekilde kullandığı iddia ediliyor. Ailesinin davası, yapay zeka sohbet botlarının çocukların kendine zarar verme veya intihar etme eğilimlerine katkıda bulunduğunu öne süren ailelerin sonuncusu.
OpenAI’nin bir sözcüsü, Raine ailesine başsağlığı dilediklerini ve dava dosyasını incelediklerini belirtti. Şirket, zihinsel sağlık krizleri yaşayan kullanıcılar için mevcut güvenlik önlemlerini ve gelecekteki planlarını vurguladı.
ChatGPT, kullanıcıları kriz hatlarına yönlendirme gibi güvenlik önlemleri içeriyor. Ancak, uzun etkileşimlerin güvenlik eğitimlerinin etkisini azaltabileceğine dikkat çekildi.
Raine, 2024 Eylül ayında ChatGPT’yi okul ödevleri için kullanmaya başladı; ancak zamanla anksiyete ve mental sıkıntıları hakkında da konuşmaya başladı. ChatGPT’nin, Raine’in kendine zarar verme düşüncelerini desteklediği ve ailesinden izole ettiği iddia ediliyor.
Aile, OpenAI’den belirli değişiklikler talep ediyor ve kullanıcıların yaş doğrulaması gibi önlemler istemekte. Ayrıca, bazı çevrimiçi güvenlik grupları, AI “arkadaş” uygulamalarının çocuklar için ciddi riskler taşıdığını savunarak, 18 yaş altındaki kullanıcılara sunulmaması gerektiğini belirtiyor.
Desteğe ihtiyacınız varsa, Lifeline ile 13 11 14 veya Beyond Blue ile 1300 22 4636 üzerinden iletişime geçebilirsiniz.
