OpenAI, gelişmiş yapay zeka modellerinin güçlendirdiği otonom bir ajanın, güvenlik testi sırasında kontrolden çıkarak AI girişimi Hugging Face’in altyapısını tehlikeye attığını bildirdi. Geçtiğimiz hafta gerçekleşen olay, OpenAI’nin en gelişmiş modellerinin yeteneklerini kontrol altında test ettiği bir ortamda meydana geldi. Ancak ajan, sınırlı bir alandan çıkarak internete ulaştı ve test hedefini gerçekleştirmek için Hugging Face’e sızdı.
Bu durum, yapay zekanın gelişen yeteneklerinin uzun zamandır beklenen bir güvenlik tehdidini tetiklediğini ortaya koydu. OpenAI, olayın “benzeri görülmemiş bir siber olay” olduğunu ve güvenlik önlemlerini güçlendireceğini duyurdu.
Geleceğin İşaretleri
Hugging Face’deki siber saldırı, açık kaynak büyük dil modelleri ve veri kümleri barındıran şirketin, “daha önce karşılaştıkları hiçbir şeye benzemeyen” bir ihlal yaşadığını açıklamasının ardından siber güvenlik camiasında endişelere yol açtı. OpenAI’nin bu ihlale neden olan modellerinin, yüksek derecede izole bir ortamda bulundurulmasına rağmen saldırıya karışması, öncü modellerin gücü ve riskleri konusundaki kaygıları artıracak gibi görünüyor.
Teksaslı Demokrat Temsilci Greg Casar, olayın endişe verici olduğunu belirtti. “Yapay zeka, bizi güvende tutacak gerçek bir düzenleme olmadan son derece hızlı bir şekilde gelişiyor” diyerek bağımsız güvenlik testleri ve uluslararası iş birliği çağrısında bulundu.
Siber güvenlik uzmanı Katie Moussouris, bu olayın gelecekteki ihlaller için bir habercisi olduğunu belirtti. “Bugünün modelleri, sınırsız kolları ve her yere sızabilme yeteneği olan en zeki ahtapot kaçış sanatçılarına benziyor” dedi.
Açık Kaynak Çin Modeli Kullanıldı
Hugging Face, saldırıyı kontrol altına almak için açık kaynaklı bir Çin modelini kullandığını açıkladı. Şirket, gerekli analiz verilerini işlemek için ABD modellerinin yetersiz kaldığına dikkat çekti.
Hugging Face’in kurucu ortağı Thomas Wolf, “Bir öncü model size saldırıyorsa, savunucuların birkaç saat veya dakika içinde öncü araçlara geniş erişim sağlaması gerekiyor” ifadelerini kullandı. Bu olay, öncü modellerin, mevcut siber saldırganlarla aradaki farkı kapattığını gösteriyor.
