Bugün büyük bir içerik anlaşmasına daha imza attığını duyuran OpenAI için güvenlik endişeleri artıyor.
Eğer kaçırdıysanız önemli bir OpenAI araştırmacısı olan Jan Leike, geçtiğimiz hafta şirketten ayrılma kararı aldı. İstifa kararı kapsamında bir açıklamada bulunan Leike, kendi X hesabı üzerinden eski şirketi için, “Güvenlik kültürü ve süreçleri dikkat çekici yeni ürünler karşısında geri planda kaldı” dedi yani açık bir eleştiride bulundu. Bu açıklama, OpenAI’ın uzun vadeli yapay zeka risklerini ele almaya adanmış “Superalignment” ekibini dağıtmasının üstüne geldi. Artık daha çok insanları etkileyen ürünlere odaklanan ve yapay zekanın olası risklerini geri plana itmeye başlamış gibi görünen OpenAI, şu an aktif olarak bir sonraki seviye olan yapay genel zeka (AGI) üzerinde de çalışıyor, o seviyenin mutlaka ama mutlaka çok güçlü koruma sistemleriyle devreye alınması gerekiyor. Bu konuda Jan Leike, “OpenAI, güvenlik öncelikli bir AGI şirketi haline gelmelidir” diyor. Bunlardan önce ise OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever şirketten ayrılmıştı.
İLGİNİZİ ÇEKEBİLİR
Bu konuda OpenAI CEO’su Sam Altman, “Ilya ve OpenAI yollarını ayırıyor. Bu benim için çok üzücü çünkü Ilya çağımızın en büyük bilim insanlarından birisi, alanımızın yol gösterici ışığı ve sevgili bir dost.” yazmıştı. Şimdi tüm bunların üstüne Gretchen Krueger’in şirketten ayrıldığı ortaya çıktı, Krueger bu kararı X hesabı üzerinden bağımsız olarak Ilya Sutskever ve Jan Leike’den ayrı olarak aldığını açıkladı. Onların endişelerine katıldığı belirten ve hatta güvenlik konusunda daha fazla endişeye sahip olduğunu belirten Krueger, OpenAI’ın güvenlik konusunu endişe verici şekilde geri plana ittiğini bir kez daha doğruladı.
Bu arada OpenAI içeriklerini kullanmak adına News Corp ile yeni bir anlaşma da imzaladı. Bu sayede ChatGPT “The Wall Street Journal, the New York Post ve The Daily Telegraph” gibi haber sitelerinin içeriklerini de kullanmaya başlayacak. Buna ek olarak haber içerikleri büyük dil modeli eğitiminde de kullanılacak. Bu beş yıllık anlaşmanın 250 milyon doların üstünde olduğu söyleniyor.
I resigned a few hours before hearing the news about @ilyasut and @janleike, and I made my decision independently. I share their concerns. I also have additional and overlapping concerns.
— Gretchen Krueger (@GretchenMarina) May 22, 2024
