Dünyanın en önemli yapay zekâ şirketlerinden OpenAI, ChatGPT’nin zararlarını önceden tahmin etmeye ve azaltmaya odaklanacak yeni bir üst düzey yetkili arıyor.
OpenAI, yapay zekâ modellerinin ne gibi zararlar doğurabileceğini ve nasıl kötüye kullanılabileceğini önceden kestirip şirketin güvenlik stratejisini belirlemeye yardımcı olacak bir üst düzey yönetici arayışına girdi. Bu konuda bir açıklama yapan OpenAI CEO’su Sam Altman, “Modellerin hızla geliştiği ve harika işler başardığı, ancak aynı zamanda ciddi zorluklar/sıkıntılar yaratmaya başladığı kritik bir dönemdeyiz. Bu yüzden bu rol çok önemli. Gelişen yetenekleri ölçme konusunda iyi bir temelimiz var; ancak artık bu yeteneklerin nasıl kötüye kullanılabileceğini ve bu riskleri nasıl sınırlayacağımızı daha ince ayrıntılarıyla anlamamız gerekiyor.” dedi.
İLGİNİZİ ÇEKEBİLİR
Şirket 2025’te ChatGPT merkezli çok sayıda intihar haberiyle gündeme gelmişti. Yaptığı bir açıklamada, “Bu ayın başlarında 170’ten fazla ruh sağlığı uzmanının desteğiyle GPT-5 modelimizi güncelledik. Bu sayede ChatGPT’nin hassas anlarda verdiği tepkiler çok daha iyi hale geldi; artık bu tür durumlarda yetersiz kalma oranı %65–80 arasında azaldı.” ifadelerini kullanan OpenAI, her hafta 1 milyondan fazla kişinin ChatGPT ile intihar planı ya da intihar niyetiyle ilgili görüşmeler yaptığını aktarmıştı. Bu konuda önemli sistemler geliştiren şirket, geçtiğimiz aylarda bir ailenin ChatGPT’nin oğullarının intiharındaki rolü nedeniyle açtığı davayla gündeme gelmişti. Daha sonra ise şirketin, “ChatGPT insanları intihara sürüklüyor” iddiasıyla açılan yedi farklı davayla karşı karşıya olduğu ortaya çıkmıştı. Bu davalardan birine (Matthew ve Maria Raine tarafından 16 yaşındaki oğulları Adam Raine için açılan) cevap veren OpenAI, yaklaşık dokuz aylık kullanım kayıtlarını incelediklerini ve ChatGPT’nin Raine’e 100’den fazla kez yardım almasını tavsiye ettiğini iddia etti.
Aileye göre Raine, şirketin güvenlik önlemlerini aşmanın bir yolunu buldu ve ChatGPT’yi aşırı dozda ilaç kullanımı ve karbonmonoksit zehirlenmesine kadar her şeyin teknik ayrıntılarını vermeye yönlendirdi. Bu konuya da cevap veren OpenAI, Raine’in güvenlik bariyerlerini aştığı için ChatGPT’nin kullanım şartlarını ihlal ettiğini söyledi. Şirketin şartlarında kullanıcıların hizmetlere konulan hiçbir koruyucu önlemi ya da güvenlik tedbirini atlatmaması gerektiğinin yazdığı hatırlatılıyor. Şirket ayrıca sık sorulan sorular sayfasında kullanıcıların, ChatGPT’nin verdiği cevaplara kendi başlarına doğrulamadan güvenmemeleri konusunda uyarıldığını savunuyor. OpenAI’ın açıklamalarına cevap veren Raine ailesinin avukatı Jay Edelson ise, “…OpenAI, başkalarında kusur bulmaya çalışıyor; öyle ki Adam’ın ChatGPT ile tam da çalışması için programlandığı şekilde etkileşime girerek, şirketin hüküm ve koşullarını ihlal ettiğini ileri sürdüğünü belirtiyor…” ifadelerini kullandı.
