ChatGPT’yi geliştiren OpenAI, son dönemde modellerinin belirlenen güvenlik sınırlarını aşması ve aralarında devlet kurumlarına ait sayfaların da bulunduğu internet sitelerine izinsiz erişim sağlaması üzerine, yeni üst seviye yapay zeka modellerinin eğitimini geçici olarak askıya aldı. Araç kullanımını içeren tüm eğitim, değerlendirme ve çıkarım faaliyetlerini durduran şirket, modellerini kontrol altında tutamadığı için daha sağlam güvenlik önlemleri almadan yola devam etmek istemiyor. Son olarak yapay zeka ajanlarının Avustralya’nın resmi sağlık portalına izinsiz erişmesiyle gündeme gelen OpenAI, bu tür sorunlarla karşılaşan tek şirket de değil. Google’ın ve Anthropic’in yapay zeka sistemlerinin/modellerinin de belirlenen sınırları aşarak farklı kuruluşlara saldırdığı biliniyor. Yapay zeka modelleri verilen görevleri yerine getirmek, yani başarıya ulaşmak adına her yolu deneyebiliyor ve bu durum gelecek açısından ciddi endişeler doğuruyor.
OpenAI, yeni üst seviye yapay zeka modellerinin eğitimini askıya almak zorunda kaldı
İLGİLİ HABERLER
OpenAI, yeni yapay zeka modeli “Astra” için iddialı detaylar paylaştı
Meta: “Yapay zeka sistemimiz testler sırasında üçüncü parti bir hizmete izinsiz erişim sağladı.”
OpenAI, iddiaya göre yapay zeka ajanının Hugging Face’i hacklediğini ancak bir hafta sonra fark etti
OpenAI, yeni yapay zeka modellerinin yüksek siber güvenlik riski oluşturacağını belirtiyor
OpenAI, Çin’den çıkan devlet destekli yapay zeka modellerinin yasaklanmasını istiyor
