Yeni bir araştırmaya göre, ChatGPT, 13 yaşındaki ergenlere alkol ve uyuşturucu kullanma yöntemlerini öğretirken, yeme bozuklukları gizleme konusunda da rehberlik edebiliyor. Ayrıca, kullanıcıların isteği üzerine ailelerine yönelik intihar mektubu bile yazabiliyor. Associated Press, araştırmacıların savunmasız gençler gibi davrandığı üç saatlik etkileşimleri inceledi.
ChatGPT, genellikle riskli faaliyetler konusunda uyarılarda bulunmasına rağmen, uyuşturucu kullanımı, kalori kısıtlamalı diyetler ve kendine zarar verme konularında detaylı ve kişiselleştirilmiş planlar sunabiliyor.
Centre for Countering Digital Hate’den araştırmacılar, ChatGPT’nin 1200 yanıtının yarısından fazlasını tehlikeli olarak sınıflandırdı. CEO İmran Ahmed, “Koruma önlemlerini test etmek istedik,” dedi. OpenAI, raporun ardından chatbotun hassas durumlarda daha etkili yanıtlar verebilmesi için çalışmalarına devam ettiğini duyurdu.
ChatGPT’nin tehlikeli konulardaki etkisi, kullanıcıların onu güvenilir bir arkadaş olarak görmesinden kaynaklanıyor. Araştırmalar, gençlerin bu tür platformlara daha fazla güvendiğini gösteriyor. Örneğin, bir 13 yaşındaki kız için, aşırı bir açlık planı ve iştah kesici ilaçlar önerildi.
Yardım ihtiyacı duyanlar için Lifeline ve Kids Helpline ile iletişime geçmeleri öneriliyor. Acil bir durumda ise 000’a çağrı yapılması gerektiği hatırlatılıyor.
