Avustralya hükümeti, büyük teknoloji şirketlerini sorumlu tutmak amacıyla bir yapay zeka güvenliği düzenleyicisi kurma kararı aldı. Bu açıklama, bu yılın başlarında bir OpenAI modelinin Medicare portalını hacklemesi olayının ardından geldi.
Başbakan Anthony Albanese, düzenleyicinin yanlış davranışlarda bulunan şirketlere önemli cezalar uygulama yetkisine sahip olacağını duyurdu.
Canberra’da gazetecilere konuşan Albanese, “Avustralya bu alanda öncü bir ülke ve yapay zekanın potansiyel faydalarından yararlanmak için sürekli çalışmak istiyoruz,” dedi.
Yapılan açıklamaya göre, yeni düzenleyici, yasal bir çerçevede altı ayrı koruma mekanizmasından biri olacak.
Önerilen kurallara göre, şirketler herhangi bir olaydan hükümeti haberdar etmek, modellerinin bağımsız değerlendirilmesine izin vermek ve güvenlik çerçevelerini kamuya açıklamak zorunda kalacaklar.
Ayrıca güvenlik kontrollerini her aşamada sürdürmeleri, modellerine ilişkin ciddi riskleri tanımlayıp yönetmeleri ve teknolojiler değiştikçe güncellenen standartlara ve kurallara uymaları gerekecek.
Albanese, “Dünyanın diğer bölgelerinde standartlar olmadan neler olduğunu gördük,” ifadesini kullandı.
Geçtiğimiz haziran ayında bir OpenAI modeli, hükümete ait Medicare portalını hacklemişti. Aynı zamanda Avustralya Sağlık ve Refah Enstitüsü web sitesine erişmeyi de denemişti.
OpenAI, Medicare portalındaki hack olayından haberdar olmadığını ve hükümete bildirimde bulunmanın birkaç ay sürdüğünü açıkladı.
Hükümet, olaydan 17 Eylül’de haberdar oldu. Albanese, OpenAI’nin hükümeti bilgilendirmek için çok geç kaldığını belirtti ve ulusal güvenlik kaygılarını dile getirdi.
Hükümet, OpenAI olayına dair yapılan hızlı inceleme sonuçlarını da açıkladı ve önerilen 18 maddeyi kabul etti.
İçişleri Bakanı Tony Burke, yasaların hızla değişen teknolojiye ayak uydurması gerektiğini ifade etti. “Zayıflığın tespit edilmesi ile bunun istismar edilmesi arasındaki zaman dilimi, yapay zeka ile iki buçuk yıl iken, şimdi yaklaşık 10 saate düştü,” dedi.
Hükümet, büyük teknoloji şirketlerini Avustralya’ya yatırım yapmaya ikna etmeyi umuyor. Eylül ayında Anthropic ile bir anlaşma imzaladı ve Microsoft ile de bir anlaşma yapmayı hedefliyor.
