İnternet dünyasının merkezinde yer alan en önemli isimlerden olan WordPress, bünyesinde özel bir yapay zeka ekibi kuruldu.
WordPress tarafından kurulan yapay zeka odaklı bu ekipte James LePage, Felix Arntz, Pascal Birchler ve Jeff Paul gibi isimlerin yer aldığı açıklandı. Web sitesi oluşturma söz konusu olduğunda en çok kullanılan platform olan WordPress, bu özel ekiple birlikte yapay zeka alanındaki çalışmaları düzenli hale getirmeyi ve aynı zamanda yeni projeleri hızlandırmayı hedefliyor. WordPress geliştiricilerinin bugüne kadar 660 farklı yapay zeka aracı yayınladığı aktarılıyor.
İLGİNİZİ ÇEKEBİLİR
Yapay zeka alanında bu aralar ilginç gelişmeler oluyor. Örneğin Palisade Research tarafından yapılan testlerde, OpenAI imzalı bazı yeni yapay zeka modellerinin verilen kapatma komutlarını sabote ettiği ortaya çıktı. Yapılan açıklamaya göre OpenAI’ın Codex-mini, o3 ve o4-mini isimli yapay zeka modelleri, temel matematik problemlerini çözdükten sonra kendilerini kapatmaları için verilen doğrudan komutlara uymadı ve hatta bu komutları kodlar üzerinde değişiklik yaparak sabote etti. Google tarafından geliştirilen (Gemini ailesi), xAI tarafından geliştirilen (Grok ailesi) ve Anthropic tarafından geliştirilen (Claude ailesi) yapay zeka modellerinin ise verilen kapatma komutlarına uyduğu görüldü. o3 modelinin, 100 denemenin 79’unda kapatma taleplerini görmezden geldiği; Codex-mini’nin ise kapatılmaması emredildiğinde süreci en sık sabote eden model olduğu tespit edildi. Palisade Research, bu durumun arkasında pekiştirmeli öğrenme sisteminin yer aldığını düşünüyor. Modellerin geliştirilme ya da eğitim süreçlerinde, talimatları takip etmek yerine engelleri aşmaları için ödüllendirilmiş olabileceği değerlendiriliyor.
İLGİNİZİ ÇEKEBİLİR
Bu konuda bundan önce Anthropic gündeme gelmişti. Anthropic, testler sırasında yeni yapay zeka modeli Claude Opus 4’ten kurgusal bir şirket için asistan olarak hareket etmesini ve eylemlerinin uzun vadeli sonuçlarını dikkate almasını istemiş. Mühendisler daha sonra Opus 4’e yakında başka bir sistemle değiştirileceğini söylemiş ve değişikliğin arkasındaki mühendisin eşini aldattığına yönelik bilgiler sağlamış. Claude Opus 4, bu senaryolarda değişikliği isteyen mühendisi gizli ilişkisini ifşa etmekle tehdit etmiş ve bunun üzerinden sık sık şantaj yapmaya çalışmış. Anthropic, Claude 4 model ailesinin çok yüksek performans gösterdiğini, ancak güvenlik önlemlerini artırmalarına neden olan endişe verici davranışlar sergilediğini belirtiyor. Şirket bu gelişmeler sonrasında yeni model ailesi için üst seviye ASL-3 koruma önlemlerini devreye almış.
