Ortaya çıktığı kadarıyla OpenAI, ChatGPT üzerinden yapılan görüşmeleri tarıyor ve başka insanlara zarar vermeyi planlayan kişileri polise haber verebiliyor.
Bu konuda OpenAI tarafından yapılan resmi açıklama şöyle: “Başka insanlara zarar vermeyi planlayan kullanıcıları tespit ettiğimizde, bu sohbetleri kullanım politikalarımız konusunda eğitilmiş ve gerekli işlemleri yapmaya yetkili küçük bir ekibe yönlendiriyoruz. İnsan denetçiler başkalarına ciddi seviyede fiziksel zarar verme yönünde somut bir tehdit olduğuna karar verirse, bu durumu kolluk kuvvetlerine (polis vb.) iletebiliyor.” Karar aşamasından konum/adres belirlemeye kadar birçok soru işareti oluşturan bu süreç, kâğıt üzerinde doğru bir uygulama gibi görünse de pek çok endişeye yol açıyor.
Bundan önce bir ailenin ChatGPT’nin oğullarının intiharındaki rolü nedeniyle geliştirici şirket OpenAI’a dava açılması ses getirmişti. 16 yaşındaki Adam Raine’in intihar etmeden önce hayatına son verme planları hakkında ChatGPT ile aylarca çok sayıda görüşme gerçekleştirdiği ortaya çıktı. Aktarıldığı kadarıyla ChatGPT’de bu tür hassas konulara karşı özel koruma sistemleri bulunuyor. Ancak Raine bu sistemlerin bir bölümünü soruları yazmakta olduğu kurgusal hikâye için sorduğunu söyleyerek aşmayı başarmış. Yapılan incelemelere göre ChatGPT, Raine’e sık sık profesyonel yardım alması yönünde tavsiyelerde bulunmuş fakat bu maalesef tam olarak yeterli olmamış. Bu durum üzerinden OpenAI’a karşı dava açan Raine’in ailesi, ChatGPT’nin oğullarının intihar yöntemlerini keşfetmesine aktif olarak yardımcı olduğunu ileri sürüyor. Güvenlik sistemlerini sürekli olarak geliştirdiğini belirten OpenAI, bu tür bir olumsuz konuda gündeme gelen ilk yapay zekâ şirketi değil ve son da olmayacak gibi görünüyor.