WhatsApp, Facebook ve Instagram’ın çatı şirketi Meta, yapay zekâ sistemlerini gençlerle intihar ya da romantik konularda görüşme yapmayacak şekilde güncelliyor.
Meta, yaptığı açıklamada Meta AI altında sunulan sohbet botlarının artık genç kullanıcılarla kendine zarar verme, intihar, yeme bozuklukları ya da uygunsuz olabilecek romantik konuşmalar hakkında etkileşime girmeyecek biçimde eğitileceğini belirtti. Meta, bunların geçici değişiklikler olduğunu; ilerleyen dönemde gençler için daha sağlam ve kalıcı güvenlik güncellemeleri yayınlayacağını aktarıyor. Meta’nın sözcüsü Stephanie Otway ise, sohbet botlarının daha önce gençlerle söz konusu tehlikeli konular üzerine şirketin o dönem doğru bulduğu biçimde konuşabildiğini söyledi. Meta artık bunun yanlış bir karar olduğunu kabul ediyor ve güvenlik önlemlerini artırarak gençleri daha iyi şekilde koruyacaklarını belirtiyor.
İLGİNİZİ ÇEKEBİLİR
Bundan önce bir ailenin milyonlarca kullanıcısı bulunan ChatGPT’nin oğullarının intiharındaki rolü nedeniyle geliştirici şirket OpenAI’a dava açması çok ses getirmişti. 16 yaşındaki Adam Raine’in intihar etmeden önce hayatına son verme planları hakkında ChatGPT ile aylarca çok sayıda görüşme gerçekleştirdiği ortaya çıktı. Aktarıldığı kadarıyla ChatGPT’de bu tür hassas konulara karşı özel koruma sistemleri bulunuyor. Ancak Raine bu sistemlerin bir bölümünü soruları yazmakta olduğu kurgusal hikâye için sorduğunu söyleyerek aşmayı başarmış. Yapılan incelemelere göre ChatGPT, Raine’e sık sık profesyonel yardım alması yönünde tavsiyelerde bulunmuş fakat bu maalesef tam olarak yeterli olmamış. Bu durum üzerinden OpenAI’a karşı dava açan Raine’in ailesi, ChatGPT’nin oğullarının intihar yöntemlerini keşfetmesine aktif olarak yardımcı olduğunu ileri sürüyor. Güvenlik sistemlerini sürekli olarak geliştirdiğini belirten OpenAI, bu tür bir olumsuz konuda gündeme gelen ilk yapay zekâ şirketi değil ve son da olmayacak gibi görünüyor.
