Yapay zekâ dünyasının büyük isimlerinden Anthropic, yapay zekâ modellerini kullanıcı verileri üzerinde eğitmeye başlayacak.
Anthropic, tüm Claude kullanıcılarının 28 Eylül’e kadar konuşmalarının yapay zekâ modellerinin eğitiminde kullanılmasını isteyip istemediklerine karar vermelerini istiyor. Eğer kullanıcılar kabul ederse, görüşme kayıtları anında eğitim sürecine dâhil edilmeye başlanacak. Anthropic daha önce model eğitimi için kullanıcıların sohbet verilerini kullanmıyordu. Yeni atılan adım kapsamında veri saklama politikasını da beş yıla çıkaran şirket, yapay zekâ modellerini eğitmek adına kullanıcı verilerine ihtiyaç duyuyor; çünkü artık yeni veriye erişim sağlayamıyor. ChatGPT gibi sistemlere güç veren büyük dil modelleri uzun süredir büyük oranda sentetik veriler kullanılarak eğitiliyor. Güçlü sunucu sistemlerinin yardımıyla elde edebilecekleri gerçek yani insan üretimi verinin hemen hepsine ulaşan yapay zekâ firmaları, artık büyük dil modellerini eğitmek için sentetik veriler kullanıyor. Bu durum, yanlış içerikler üretme ve hayalî bilgiler döngüsü yaratma konusunda ciddi riskler ortaya koyuyor; ancak şirketlerin başka şansı bulunmuyor. “Gerçek verileri geçtiğimiz yıl içerisinde tükettik” diyen Elon Musk, verdiği bir röportajda gelecek için şu açıklamayı yapmıştı: “Gerçek dünya verilerini desteklemenin tek yolu, yapay zekâ tarafından oluşturulan sentetik veriler.”
İLGİNİZİ ÇEKEBİLİR
Anthropic bundan önce güvenlik odaklı açıklamalarıyla dikkat çekmişti. “Yapay zekâ modellerimizin kötüye kullanımını önlemek amacıyla gelişmiş güvenlik ve emniyet önlemleri geliştirdik. Ancak siber suçlular ve diğer kötü niyetli kişiler sürekli olarak bu önlemleri aşmanın yollarını arıyor.” diyen Anthropic, siber suçluların yapay zekâ sistemlerinin sağladığı gelişmiş yeteneklerden çok ciddi şekilde yararlanmaya başladığını belirtiyor. “Yapay zekâ, ileri düzey siber suçların önündeki engelleri kaldırdı. Teknik bilgisi çok az olan kişiler bile artık karmaşık operasyonlar yapabiliyor. Siber suçlular kurbanları seçmekten çalınan verileri incelemeye, kredi kartı bilgilerini ele geçirmekten sahte kimlikler üretmeye kadar her noktada yapay zekâdan faydalanıyor. Yapay zekâ ajanları da adeta birer silah hâline getirildi.” diyen Anthropic, bu süreçlere Claude Code’un da dâhil edildiğini aktarıyor.
“Kısa süre önce Claude Code’u kullanarak büyük çaplı kişisel veri hırsızlığı ve şantaj operasyonu gerçekleştiren bir siber suç faaliyetini engelledik. Söz konusu aktör, sağlık sektörü, acil servisler ile devlet ve dinî kurumlar da dâhil olmak üzere en az 17 ayrı kurumu hedef almış.” açıklamasını yapan şirket, araştırmalarına dayanarak ek olarak şunları söyledi: “Kuzey Koreli bazı kişilerin Claude’u kullanarak ABD’nin büyük teknoloji şirketlerindeki ‘remote’ pozisyonlarda işe girdiğini ve bu işleri sürdürdüklerini ortaya çıkardık. Ayrıca bir siber suçlunun Claude’dan yararlanarak farklı türlerde fidye yazılımları ürettiğini, bunları piyasaya sürdüğünü ve yayılmasını sağladığını tespit ettik. Bu fidye yazılımlarının her biri; tespit edilmemek için gelişmiş yöntemler, güçlü şifreleme sistemleri ve kurtarma girişimlerini engelleyen mekanizmalarla donatılmıştı.”
