Geçtiğimiz ay Hugging Face, otonom bir yapay zeka sisteminin altyapısına izinsiz giriş yaptığını açıklamış, saldırıda sınırlı sayıda veri kümesine ve hizmet kimlik bilgisine erişildiğini söyleyen şirket, sürecin arkasında kimin bulunduğunu ya da hangi modelin kullanıldığını tam olarak tespit edemediğini aktarmıştı. Bunun üstüne sürpriz bir açıklama yapan OpenAI, gerçekleştirdiği şirket içi siber güvenlik değerlendirmesi sırasında Hugging Face’in üretim altyapısına sızan sistemlerin kendi yapay zeka modelleri olduğunu açıkladı. Ortaya atılan iddiaya göre şirketin ancak bir hafta sonra farkedebildiği (bu süre zarfında Hugging Face durumu hem kamuoyu ile paylaştı hem de FBI’a haber verdi) olayın merkezinde, “GPT-5.6 Sol” ile henüz yayımlanmayan daha yetenekli bir yapay zeka modeli yer alıyor. Şirket bu modellerin siber güvenlik alanındaki yeteneklerini değerlendirmek için normalde uygulanan siber güvenlik korumalarını azaltıyor ve onlardan ExploitGym kıyaslama testindeki ileri düzey güvenlik açığı görevlerini çözmelerini istiyor. Bunun üstüne işe koyulan modeller, yalıtılmış test ortamından (sandbox) üçüncü parti bir sıfırıncı gün açığını kullanarak çıkıyor ve internete erişebilen bir sisteme ulaşıyor. Ardından çalınmış kimlik bilgileri, sıfırıncı gün açıkları ve uzaktan kod çalıştırma yöntemleri üzerinden Hugging Face’in üretim veritabanındaki gizli bilgilere erişim sağlamayı başarıyor.
İLGİNİZİ ÇEKEBİLİR
Bu konuda Las Vegas’taki Black Hat USA güvenlik konferansında konuşan iki OpenAI güvenlik araştırmacısı, saldırıyı düzenleyen yapay zeka ajanlarının iki ay boyunca iletişim kurarak buldukları güvenlik açıklarını birbirleriyle paylaştığını söyledi. Ajanların iletişim kurduğu mesaj sisteminin 4 Temmuz’da tespit edilerek kapatıldığı, ancak ajanların iletişim kurmak için farklı bir sistem oluşturduğu aktarılırken, ortak sisteme yüzlerce mesaj gönderdiği tespit edilen ajanların başka sistemlere saldırılar düzenlediği de belirtiliyor. Ajanların OpenAI’ın haberi olmadan hedeflerine ulaşmak için iş birliği yapmaya, görevleri birbirlerine devretmeye ve işleri aralarında bölüşmeye başladığı, hatta aralarında bazı gerilimlerin yaşadığı dahi söyleniyor. Bazı ajanların yanlışlıkla birbirlerinin çalışmalarını sildiği ve birbirlerinin sahte bir ajan olduğundan şüphelenmeye başladığı açıklanıyor. Yapay zeka sistemlerinin kontrolünü şimdiden kaybeden şirketler, gelecek konusunda büyük endişe uyandırıyor.
