Anthropic CEO’su kendisi de dahil olmak üzere bir grup liderin yapay zeka teknolojisinin geleceğinden sorumlu olmasını istemiyor.
Anthropic CEO’su Dario Amodei, CBS News tarafından hazırlanan 60 Minutes programında önemli açıklamalarda bulundu. Amodei, yapay zeka teknolojisinin bir grup liderin elinde olmasından rahatsız olduğunu belirtiyor ve yapay zekânın devlet kontrolüde daha sıkı şekilde düzenlenmesi gerektiğini savunuyor. Büyük teknoloji şirketlerinin yöneticilerinin geleceğe dair kritik kararları tek başına vermesinden rahatsızlık duyduğunu ifade eden Amodei, “Sizi ve Sam Altman’ı (OpenAI CEO’su) kim seçti?” diye sorulduğunda, kendilerinin seçilmiş kişiler olmadığını net olarak kabul ediyor. Anthropic’in yapay zekânın etkisi ve riskleri konusunda şeffaf olmayı benimsediğini aktaran Amodei, kısa süre önce önemli bir güvenlik duyurusu yaptıklarını hatırlatıyor. Anthropic, yaptığı son açıklamada Çin merkezli hackerların eylül ayında düzenledikleri siber saldırılarda Claude’u kullandığını söylemişti. Çinli hackerların belirli şirketlere ve hükümetlere yönelik yaklaşık 30 saldırıyı Claude’u kullanarak otomatik hâle getirdiğini aktaran şirket, saldırıların yüzde 80–90’ının yapay zekâ tarafından yürütüldüğünü belirtiyor. “Hackerlar saldırı sürecinde yalnızca birkaç kritik noktada devreye girmiş” diyen şirket, otomasyon seviyesinin eskiye nazaran oldukça yükseldiğini ifade ediyor.
İLGİNİZİ ÇEKEBİLİR
Bu konu ilk defa gündeme gelmiyor. Geçtiğimiz aylarda bir açıklama yaparak, “Yapay zekâ modellerimizin kötüye kullanımını önlemek amacıyla gelişmiş güvenlik ve emniyet önlemleri geliştirdik. Ancak siber suçlular ve diğer kötü niyetli kişiler sürekli olarak bu önlemleri aşmanın yollarını arıyor.” diyen Anthropic, siber suçluların yapay zekâ sistemlerinin sağladığı gelişmiş yeteneklerden çok ciddi şekilde yararlanmaya başladığını belirtmişti. “Yapay zekâ, ileri düzey siber suçların önündeki engelleri kaldırdı. Teknik bilgisi çok az olan kişiler bile artık karmaşık operasyonlar yapabiliyor. Siber suçlular kurbanları seçmekten çalınan verileri incelemeye, kredi kartı bilgilerini ele geçirmekten sahte kimlikler üretmeye kadar her noktada yapay zekâdan faydalanıyor. Yapay zekâ ajanları da adeta birer silah hâline getirildi.” diyen Anthropic, bu süreçlere Claude Code’un da dâhil edildiğini söylemişti.
“Kısa süre önce Claude Code’u kullanarak büyük çaplı kişisel veri hırsızlığı ve şantaj operasyonu gerçekleştiren bir siber suç faaliyetini engelledik. Söz konusu aktör, sağlık sektörü, acil servisler ile devlet ve dinî kurumlar da dâhil olmak üzere en az 17 ayrı kurumu hedef almış.” açıklamasını yapan şirket, araştırmalarına dayanarak ek olarak şunları söylemişti: “Kuzey Koreli bazı kişilerin Claude’u kullanarak ABD’nin büyük teknoloji şirketlerindeki ‘remote’ pozisyonlarda işe girdiğini ve bu işleri sürdürdüklerini ortaya çıkardık. Ayrıca bir siber suçlunun Claude’dan yararlanarak farklı türlerde fidye yazılımları ürettiğini, bunları piyasaya sürdüğünü ve yayılmasını sağladığını tespit ettik. Bu fidye yazılımlarının her biri; tespit edilmemek için gelişmiş yöntemler, güçlü şifreleme sistemleri ve kurtarma girişimlerini engelleyen mekanizmalarla donatılmıştı.”
