Kanada’daki okul saldırısında yakınlarını kaybeden yedi aile, sürece dahil olan ChatGPT üzerinden OpenAI şirketine ve şirket CEO’su Sam Altman’a dava açtı. Dava kapsamında hem tazminat ödenmesi hem de ChatGPT platformunda kapsamlı güvenlik reformları yapılması isteniyor. Peki tam olarak neler olmuştu? OpenAI’ın çok sayıda kişinin hayatını kaybettiği okul saldırısını düzenleyen Jesse Van Rootselaar’ı, kanlı eylemden aylar önce platform üzerinden yaptığı görüşmeler nedeniyle polise ihbar etmeyi düşündüğü ortaya çıkmıştı. Sohbet botu için geliştirilen otomatik koruma sistemlerinin tehlikeli içerikleri işaretleyerek çalışanlara ilettiğini belirten WSJ, bu kayıtların çok sayıda personel tarafından incelendiğini ancak son aşamada emniyet birimlerine bilgi verilmemesi yönünde karar alındığını aktardı. Bazı çalışanların Van Rootselaar’ın yazdıklarını somut bir fiziksel şiddet ihtimali olarak değerlendirdiği ve bu durumun Kanada polisine bildirilmesi için yöneticilere baskı yaptığı belirtildi.
İLGİNİZİ ÇEKEBİLİR
Habere ilişkin açıklama yapan bir OpenAI sözcüsü ise şahsın hesabını kapattıklarını, fakat paylaşımlarının polise haber verme şartlarını karşılamadığına karar verdiklerini ifade etmişti. Sözcü, böyle bir bildirim yapılabilmesi için söz konusu eylemlerin başkalarına fiziksel zarar verebilecek ciddi ve her an gerçekleşebilecek bir risk taşıması gerektiğini vurguladı. OpenAI CEO’su Sam Altman ise geçtiğimiz hafta yaptığı açıklamada okul saldırısını düzenleyen kişiyi polise bildirmedikleri için Kanada’nın Tumbler Ridge kasabası sakinlerinden özür dilemişti. Altman, “Haziran ayında yasaklanan hesap hakkında güvenlik güçlerine haber vermediğimiz için gerçekten çok üzgünüm. Kelimelerin yaşananları telafi etmeye yetmeyeceğini bilsem de topluluğunuzun uğradığı zararı ve geri dönülemez kayıpları kabul etmek adına bu özrün gerekli olduğuna inanıyorum.” dedi. Altman ayrıca OpenAI olarak benzer durumların bir daha yaşanmaması için devletin her kademesiyle birlikte çalışmayı sürdüreceklerini ifade etmişti.
