Anthropic, Çinli yapay zeka şirketleri için şaşırtıcı bilgiler paylaştı

Anthropic, bugün geliştirdiği yapay zeka modellerinin ve sistemlerinin kötüye kullanımına yönelik kapsamlı bir rapor paylaştı. En “tehlikeli” detaylarına burada yer verdiğimiz raporda, Çinli yapay zeka şirketlerinin “distillation”, yani damıtma faaliyetlerine de değiniliyor. Anthropic, DeepSeek, Xiaomi ve Moonshot gibi Çinli şirketlerin kendi kullanıcılarının yapay zeka modelleriyle yaptığı bazı konuşmaları Claude’a göndererek Claude’un yanıtlarını eğitim verisi olarak kullandığını aktarıyor. Bu konuşmaların bazılarında isim, e-posta adresi, şirket verileri ve diğer hassas bilgilerin bulunduğunu belirten şirket, bunların bir kısmının ABD ve Avrupa’da kullanılan üçüncü parti model yönlendirme servislerinden geldiğini ifade ediyor. Anthropic, yüzlerce kullanıcının verisinin bu şekilde işlenmiş olabileceğini ve bunun gizlilik yasalarının yanı sıra söz konusu şirketlerin kendi kullanım şartlarıyla da çelişebileceğini söylüyor. Alibaba’nın 151 milyondan fazla işlemle şimdiye kadar ölçtükleri en büyük distillation saldırısını gerçekleştirdiğini aktaran Anthropic, Kimi model ailesinin geliştiricisi Moonshot AI’ın müşterilerden gelen bazı istekleri kendi modelleri üzerinden işlemek yerine doğrudan Claude’a yönlendirdiğini tespit ettiğini de söylüyor. “Kullanıcı taleplerinin Kimi altyapısı yerine Claude tarafından işlendiği ortaya çıktı.” diyen şirket, Moonshot’ın 10 günde yaklaşık 300 bin müşteri talebini Opus’a yönlendirdiğinin tespit edildiğini belirtiyor. Anthropic, Moonshot’ın bunun için çoğu Singapur ve Japonya’da bulunduğu görülen 5.380 sahte hesaptan oluşan bir proxy hizmet ağı kullandığını iddia ediyor. DeepSeek’in de buna benzer bir süreci hayata geçirdiğini söyleyen Anthropic, Xiaomi’nin kendi MiMo modellerinden elde ettiği kullanıcı sohbetlerini ve kodlama oturumlarını Claude’a aktardığının tespit edildiğini de belirtiyor. Anthropic buradaki amacı, Claude’un yanıtlarını doğrudan Xiaomi kullanıcılarına sunmak değil, Claude’dan elde edilen yanıtları eğitim verisi olarak toplamak olduğunu açıklıyor.

İLGİNİZİ ÇEKEBİLİR

Anthropic, yapay zeka sistemlerinin kötüye kullanımına yönelik endişe verici bir rapor paylaştı