Bir aile, milyonlarca kullanıcısı bulunan ChatGPT’nin oğullarının intiharındaki rolü nedeniyle geliştirici şirket OpenAI’a dava açtı.
16 yaşındaki Adam Raine’in intihar etmeden önce hayatına son verme planları hakkında ChatGPT ile aylarca çok sayıda görüşme gerçekleştirdiği ortaya çıktı. Aktarıldığı kadarıyla ChatGPT’de bu tür hassas konulara karşı özel koruma sistemleri bulunuyor. Ancak Raine bu sistemlerin bir bölümünü soruları yazmakta olduğu kurgusal hikâye için sorduğunu söyleyerek aşmayı başarmış. Yapılan incelemelere göre ChatGPT, Raine’e sık sık profesyonel yardım alması yönünde tavsiyelerde bulunmuş fakat bu maalesef tam olarak yeterli olmamış. Bu durum üzerinden OpenAI’a karşı dava açan Raine’in ailesi, ChatGPT’nin oğullarının intihar yöntemlerini keşfetmesine aktif olarak yardımcı olduğunu ileri sürüyor. Güvenlik sistemlerini sürekli olarak geliştirdiğini belirten OpenAI, bu tür bir olumsuz konuda gündeme gelen ilk yapay zekâ şirketi değil ve son da olmayacak gibi görünüyor.
İLGİNİZİ ÇEKEBİLİR
Bundan önce OpenAI şirketinin CEO’su Sam Altman tarafından yapılan bir açıklama dikkat çekmişti. Theo Von’un podcast programına katılan OpenAI CEO’su Sam Altman, “İnsanlar hayatlarındaki en özel meseleleri ChatGPT’ye açıyor. Özellikle gençler, ChatGPT’yi bir terapist ya da yaşam koçu gibi görüyor. İlişkilerinde sorun yaşadıklarında gelip ‘Ne yapmalıyım?’ diye soruyorlar. Normalde bu tür meseleleri bir terapiste, avukata ya da doktora anlattığınızda, bu konuşmalar yasal gizlilik kapsamında korunur; doktor-hasta ya da avukat-müvekkil gizliliği gibi. Ama ChatGPT ile yapılan konuşmalar için böyle bir sistem henüz yok. Bu konuda nasıl bir yol izleneceğine daha karar verilmiş değil.” dedi. Altman, kullanıcıların ChatGPT ile yaptığı konuşmaların bir dava durumunda yasalar gereği mahkemeye sunulabileceğini belirtiyor. Yani kullanıcıların özel bilgilerinin açığa çıkabileceğini aktaran Altman, bu konuda yaptığı açıklamada, “Bence bu gerçekten çok sorunlu bir durum. İnsanların yapay zekâ sistemleriyle yaptığı konuşmalar da bir terapistle yapılan sohbetler kadar gizli olmalı.” dedi. Altman bu tarz durumların, yapay zekâ ile ilgili henüz oturmuş bir yasal veya politik çerçevenin olmamasından kaynaklandığını belirtiyor.
Sam Altman yaptığı başka bir konuşmada, “Açıkçası ben gerçekten bir insan doktor istiyorum. Tamam, ChatGPT şu anda çoğu doktordan daha iyi teşhis koyabiliyor, bunu kabul ediyorum. İnternette ‘ChatGPT sayesinde hayatta kaldım’ tarzı bir sürü hikâye var… Ama yine de insanlar gidip gerçek doktorlara danışıyor. Ben belki de bu konuda biraz çağ dışı kalıyorum ama iş sağlık olunca, ortada gerçek bir doktor yokken sadece ChatGPT’ye güvenmek içime sinmiyor.” demişti. Aynı zamanda, “…Yapay zeka sistemleri nedeniyle bazı meslekler tamamen yok olacak. Ama bunun karşılığında yepyeni meslek türleri ortaya çıkacak…” diyen Altman, yok olacak alanların başında müşteri hizmetlerinin olduğunu belirtmişti. Yapay zeka temelli müşteri hizmetleriyle kurduğu etkileşimin inanılmaz iyi olduğunu aktaran Altman, şu anda sektöründeki birçok lider gibi bir sonraki seviyeye geçmek yani yapay genel zekâ seviyesine ulaşmak için çalışmalar yapıyor.
