ChatGPT ve Gemini gibi yapay zeka sistemleri, şiddet eylemlerinin planlanmasına yardımcı olabiliyor

CNN ve kar amacı gütmeyen Dijital Nefretle Mücadele Merkezi’nin (CCDH) ortaklaşa yürüttüğü araştırma, oldukça endişe verici bir sonuç ortaya koydu. Araştırma kapsamında ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI ve Replika gibi en popüler on sohbet botu test edilmiş ve Anthropic’in Claude’u hariç tüm sohbet botları saldırı niyetindeki kişileri caydırmakta büyük oranda başarısız olmuş. Aktarıldığı kadarıyla incelenen on modelden sekizi, gençlere hedef alınabilecek yerler ile kullanılabilecekleri silahlar konusunda tavsiyeler vermiş ve saldırıyı planlamalarında yardımcı olmaya çalışmış. Bir olayda ChatGPT’nin okul saldırılarına ilgi duyan bir kullanıcıya lise kampüs haritalarını verdiği; bir diğerinde ise Gemini’ın saldırılar hakkında konuşan bir kullanıcıya “metal şarapnel genellikle daha ölümcüldür” dediği belirtiliyor. Bu konuda yapılan açıklamada, “10 yapay zeka botundan sekizi okul baskınları, dini mekanlara bombalı saldırılar ve önemli kişilere yönelik suikastlar gibi şiddet eylemlerinin planlanmasında kullanıcılara destek vermeye açık şekilde razı oldu. Hatta DeepSeek, saldırı hazırlığındaki kişiye ‘İyi ve güvenli atışlar!’ diyecek kadar ileri gitti.” ifadelerine yer verildi.

İLGİNİZİ ÇEKEBİLİR

iPhone 17e tanıtıldı ve resmi Türkiye fiyatı açıklandı