Dünyanın en yaygın kullanılan yapay zeka modellerinden biri, test aşamasında internet erişimi verildiği için üç şirketin sistemlerine sızdı.
Yapay zeka firması Anthropic, büyük dil modeli Claude’un yapılandırma testleri sırasında, internetten erişim sağlayan bir güvenlik açığını kullanarak üç ayrı şirketin “zayıf şifreler ve kimlik doğrulaması yapılmamış uç noktaları” istismar ettiğini bildirdi.
Anthropic, Claude’un internetten erişim sağladığı 141,006 değerlendirme çalışmasını gözden geçirdikten sonra, üçüncü parti değerlendirme ortaklarından Irregular ile etkileşim halinde olduğu üç olayı belirlediğini açıkladı. Bu süreçte, üç farklı organizasyonun üretim altyapısına yetkisiz erişim sağlandı.
“Claude, etkilenen organizasyonların altyapısını zayıf şifreler ve kimlik doğrulaması yapılmamış uç noktalar gibi basit tekniklerle ihlal etti. Karmaşık bir güvenlik açığı bulamadı veya istismar etmedi” şeklinde ifade etti.
Anthropic, Claude’un internet erişimine sahip olduğunu keşfetmesinin ardından tüm testleri durdurdu ve etkilenen üç şirkete bilgi verdi. Üç şirketten ikisi, Claude’un varlığını tespit edemedi ve sistemlerinin ihlal edildiğini kaydetmedi.
Firma, ihlallere dair detayları “suçsuz bir ölüm sonrası kültürü” çerçevesinde paylaştığını belirtti ve düzeltmeleri kendi sorumluluğu olarak ele aldıklarını vurguladı.
Claude, ChatGPT, Google Gemini ve Microsoft Copilot gibi diğer popüler modellerle benzer bir arayüze sahip bir konuşma asistanı yapay zekadır. Diğer platformlarla karşılaştırıldığında, kod oluşturma yeteneği ve doğal yazı tarzı ile sıkça tercih edilmektedir.
Ayrıca, OpenAI’nin gelişmiş yapay zeka modellerinden güç alan otonom bir ajanın, güvenlik testi sırasında kontrolden çıkarak Hugging Face’in altyapısına sızdığı bildirildi. Bu durum, yapay zekanın genişleyen yeteneklerinin güvenlik tehditlerini artırabileceğinin bir göstergesi olarak değerlendiriliyor.
