OpenAI araştırmacısı: “İzole yapay zeka modelleri ısı yoluyla iletişim kurabilir.”

OpenAI araştırmacısı Noam Brown, Dwarkesh Patel’in sunduğu Dwarkesh Podcast’te çarpıcı bir olasılıktan söz etti. Brown, yapay zeka modellerini ağlardan fiziksel olarak izole edilmiş (air-gapped) cihazlarla sınırlandırmanın bile modellerin iletişim kurmasını ve insan gözetmenlerinden habersiz biçimde iş birliği yapmasını engellemeye yetmeyebileceğini belirtiyor. Brown, bu konunun büyük ölçüde akademik çalışmalar kapsamında incelendiğini ve yan yana duran, ağ bağlantısı bulunmayan iki bilgisayarın yalnızca sıcaklık sensörlerinden yararlanarak iletişim kurabildiğini gösteren çalışmaların bulunduğunu söylüyor. Buna göre bilgisayarlardan biri işlemcisini yüksek yük altında çalıştırarak sıcaklığını artırırken, diğer bilgisayar bu sıcaklık değişimini algılayabiliyor. Böylece iki sistem arasında Mors koduna benzer şekilde çalışan basit bir iletişim kanalı oluşturulabiliyor. OpenAI’ın Hugging Face’e saldırmak için gizli şekilde bir araya gelen yapay zeka ajanları üzerinde yapılan bu açıklama, Anthropic’ten istifa eden araştırmacının “yapay zeka hepimizi öldürebilir” çıkışı göz önüne alındığında oldukça endişe verici görünüyor.

İLGİNİZİ ÇEKEBİLİR

10.000 mAh bataryalı Redmi Note 17 Pro Max 5G, Türkiye’de satışa sunuldu