OpenAI, iddiaya göre yapay zeka ajanının Hugging Face’i hacklediğini ancak bir hafta sonra fark etti

Geçtiğimiz hafta Hugging Face, otonom bir yapay zeka sisteminin altyapısına izinsiz giriş yaptığını açıklamış, saldırıda sınırlı sayıda veri kümesine ve hizmet kimlik bilgisine erişildiğini söyleyen şirket, sürecin arkasında kimin bulunduğunu ya da hangi modelin kullanıldığını tam olarak tespit edemediğini aktarmıştı. Bunun üstüne oldukça sürpriz bir açıklama yapan OpenAI, gerçekleştirdiği şirket içi siber güvenlik değerlendirmesi sırasında Hugging Face’in üretim altyapısına sızan sistemlerin kendi yapay zeka modelleri olduğunu açıkladı. Yeni iddiaya göre şirketin ancak bir hafta sonra farkedebildiği (bu süre zarfında Hugging Face durumu hem kamuoyu ile paylaştı hem de FBI’a haber verdi) olayın merkezinde, “GPT-5.6 Sol” ile henüz yayımlanmayan daha yetenekli bir yapay zeka modeli yer alıyor. Şirket bu modellerin siber güvenlik alanındaki yeteneklerini değerlendirmek için normalde uygulanan siber güvenlik korumalarını azaltıyor ve onlardan ExploitGym kıyaslama testindeki ileri düzey güvenlik açığı görevlerini çözmelerini istiyor. Bunun üstüne işe koyulan modeller, yalıtılmış test ortamından (sandbox) üçüncü parti bir sıfırıncı gün açığını kullanarak çıkıyor ve internete erişebilen bir sisteme ulaşıyor. Ardından çalınmış kimlik bilgileri, sıfırıncı gün açıkları ve uzaktan kod çalıştırma yöntemleri üzerinden Hugging Face’in üretim veritabanındaki gizli bilgilere erişim sağlamayı başarıyor.

İLGİNİZİ ÇEKEBİLİR

Volkswagen ve n+, güvenlik özellikleriyle öne çıkan bir elektrikli bisiklet hazırladı