Anthropic, yapay zeka sistemlerinin kötüye kullanımına yönelik endişe verici bir rapor paylaştı

Anthropic, bugün geliştirdiği yapay zeka modellerinin ve sistemlerinin kötüye kullanımına yönelik endişe verici bir rapor paylaştı. Son sekiz ayda yapay zeka modellerinin kötü niyetli amaçlarla kullanılmaya çalışıldığı çeşitli operasyonları tespit edip engellediğini aktaran şirket; raporda yapay zeka modellerinin siber operasyonlar, etki operasyonları, gözetim, dolandırıcılık, biyolojik silah üretimine yönelik araştırmalar, konvansiyonel silah geliştirme ve model damıtma olmak üzere yedi farklı alandaki kötüye kullanımına odaklanıyor. Büyük raporda ele alınan tehdit aktörleri arasında devlet destekli grupların, maddi kazanç odaklı suçluların, ticari casus yazılım sağlayıcılarının, devlet propaganda kurumlarının ve siyasi motivasyonlu kişilerin bulunduğunu aktaran şirket, yapay zeka modellerini biyolojik silah üretimine yönelik çalışmalarda kullanmaya çalışan çok sayıda bilim insanını tespit ettiğini ve bu kişilerin faaliyetlerini durdurduğunu belirtiyor. Raporda aktarıldığı kadarıyla Anthropic, Yemen’in kuzeyinde faaliyet gösteren bir grubun Claude Code’u füze geliştirme çalışmalarında kullandığını da tespit etmiş. Grup, 2.000 kilometreden fazla menzil hedeflenen çok kademeli balistik füze, güdümlü roket ve hipersonik hava aracı içeren farklı silah projeleri üzerinde çalışmış. Ekipler Claude’u özellikle güdüm, navigasyon ve kontrol yazılımları, uçuş bilgisayarı entegrasyonu, simülasyon ve kod inceleme gibi işlerde adeta bir yazılım mühendisi gibi kullanmış. Anthropic birçok isteği engellese de grup, amaçlarını gizleyip çalışmalarını farklı oturumlara bölerek bazı korumaları aşmayı başarmış. Şirket, Claude kullanılarak operasyonel bir silah üretildiğine dair kanıt bulunmadığını, ancak grubun bir güdümlü roketle test atışı gerçekleştirdiğini ve test başarısız olunca hatanın nedenini belirlemek için yeniden Claude’a başvurduğunu söylüyor.

İLGİNİZİ ÇEKEBİLİR

Apple’ın ilk katlanabilir telefonu “iPhone Duo” tanıtıldı ve Türkiye fiyatı açıklandı