Deloitte, yaptığı bir hata nedeniyle federal hükümete kısmi bir geri ödeme yapacağını duyurdu. Şirket, 440,000 dolarlık bir raporda yapay zeka kullanarak çeşitli hatalar oluşturduğunu kabul etti.
Iş Gücü ve Çalışma İlişkileri Bakanlığı (DEWR), Deloitte’tan Aralık 2024’te hedefli uyum çerçevesini ve IT sistemini incelemesini istemişti, ancak rapor kaynakça ve dipnotlar açısından birçok hata içeriyordu.
Rapor, hatalı referansların ve dipnotların silinmesi, düzeltmeler yapılması ve yeni bir referans listesi ile güncellendi.
DEWR sözcüsü, firmanın bu konudaki son taksiti geri ödeyeceğini ve işlemin tamamlandığında bunun kamuya açıklanacağını doğruladı.
Sydney Üniversitesi sosyal hizmet akademisyeni Chris Rudge, raporun Temmuz ayında yayımlanmasının ardından bir düzineden fazla hata tespit etti.
Rapor, kendi uzmanlık alanında yer alan sahte referanslar içeriyordu.
“Eserlerin isimlerini okuduğumda, bunların sahte olduğundan hiç şüphem yoktu. Çünkü bu alanda çalışıyorum ve meslektaşlarımın çalışmalarını biliyorum,” dedi.
“Birini keşfettiğimde, daha fazlasını da keşfettim.”
Yanlış referanslardan biri “Avustralya Sosyal Güvenlik Sisteminde Hukukun Üstünlüğü ve İdari Adalet” başlığını taşıyordu.
Asıl eser ise “Hukukun Üstünlüğü ve Avustralya Anayasası” olarak geçiyor.
Rudge, hataların “yapay zekanın tüm izlerini” taşıdığını belirtti.
“Bir insanın var olmayan eser başlıkları oluşturmasını anlamıyorum, bunlar Google’da bile görünmüyor. Bunu nasıl yapabilirler?” dedi.
“Eğer bu bir yapay zeka ise iyi bir şey, çünkü bunu yapan bir insan düşünmek neredeyse daha kötü,” dedi.
“Araştırma yapanlara karşı saygısızlık, bunu doğru yapmamaktır.”
Rapor, hataların ilk olarak Avustralya Finansal İnceleme tarafından Ağustos ayında bildirilmesinin ardından Eylül ayında düzeltildi.
Güncellenmiş rapor, Cuma günü web sitesine yeniden yüklendi ve “referanslar ve dipnotlar üzerinde küçük bir düzeltme” yapıldığı belirtilerek, bunun “raporun içeriği, bulguları ve önerileri üzerinde hiçbir etkisi olmadığını” vurguladı.
Deloitte, metodolojisinde “DEWR tarafından lisanslanan ve DEWR’nin Azure kiracısında barındırılan bir generatif yapay zeka (AI) büyük dil modeli (Azure OpenAI GPT-4o) tabanlı araç zinciri” kullandığını da kabul etti.
Ancak, AI’nin hatalara neden olup olmadığını doğrulamak konusunda, firma sessiz kaldı.
Deloitte sözcüsü, “Bu mesele, doğrudan müşteri ile çözüldü” diyerek konuyu kapattı.
