Halka açılma süreci kapsamında paylaşılan bilgiye göre Anthropic, kendini geliştirebilen yapay zeka (recursive self-improvement / RSI) seviyesine ulaşmak üzere. Bu seviyede, yapay zeka sistemleri kendi kendini geliştirebilecek ve ortaya çıkan her yeni sürümü temel alarak daha da ileriye gidebilecek. Büyük bir atılım olarak görülen bu gelişme, ciddi riskleri de beraberinde getiriyor. Şirket bu konuda, “Daha yetenekli yapay zeka geliştirmek için yine yapay zekadan yararlanmak, ilerlemenin hızını ciddi biçimde artırırken, önemli güvenlik riskleri oluşturabilir” uyarısında bulunuyor. Anthropic, bu risk açıklamalarını halka açılma süreci kapsamında yapıyor, yeni yatırımcıların şirkete potansiyel risklerin farkında olarak yatırım yapmasını istiyor.
İLGİLİ HABERLER
Anthropic, kendi kendini geliştirecek yapay zeka sistemleri için uyarıda bulundu
Anthropic’ten istifa eden araştırmacı: “Yapay zeka hepimizi öldürebilir”
Sam Altman: “OpenAI, modeller tam olarak güvenli hale gelene kadar halka açılmayacak”
Anthropic: “Yapay zeka teknolojilerimiz insanlık için büyük felaketlere yol açabilecek riskler doğurabilir.”
Anthropic, Claude’u Chrome’a entegre ediyor
