OpenAI, yapay zeka ajanlarının ağ bağlantısı olmadan da iletişim kurabildiğini ortaya koydu. Şirketin yaptığı testlerden birinde, ayrı sanal makinelerde çalışan yapay zeka modellerinden ağ bağlantısı olmadan birbirleriyle gizli bilgi paylaşmaları istendi. Ajanlar bu kısıtlamayı aşmak için işlemcinin önbelleği üzerinden iletişim kurmanın bir yolunu buldu. Önbellekten veri okumak, veriyi ana bellekten almaktan daha hızlı ve ajanlar iletişim kurmak için bu zaman farkından yararlandı. Ajanlardan biri, seçtiği verileri önbellekten çıkararak bilgiyi kodladı. Diğeri bu verilerin yeniden yüklenmesinin ne kadar sürdüğünü ölçtü ve hızlı ile yavaş okumalar arasındaki farktan yola çıkarak mesajı çözdü. Ajanlar bu sinyalleri kodlayıp çözmek için bir protokol üzerinde anlaştıktan sonra, paylaşılan bir dosyayı değiştirmeden ya da ağ bağlantısı açmadan sentetik gizli bilgileri birbirine aktarabildi. OpenAI, bu tarz gizli iletişimleri tespit etmek için izleme sistemine özel sistemler eklediğini söylüyor ve artık üst seviye yapay zeka modellerini internet bağlantısı olmadan eğiteceğini aktarıyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI araştırmacısı Noam Brown, geçtiğimiz ay Dwarkesh Patel’in sunduğu Dwarkesh Podcast’te çarpıcı bir olasılıktan söz etmişti. Brown, yapay zeka modellerini ağlardan fiziksel olarak izole edilmiş (air-gapped) cihazlarla sınırlandırmanın bile modellerin iletişim kurmasını ve insan gözetmenlerinden habersiz biçimde iş birliği yapmasını engellemeye yetmeyebileceğini belirtiyor. Brown, bu konunun büyük ölçüde akademik çalışmalar kapsamında incelendiğini ve yan yana duran, ağ bağlantısı bulunmayan iki bilgisayarın yalnızca sıcaklık sensörlerinden yararlanarak iletişim kurabildiğini gösteren çalışmaların bulunduğunu söylüyor. Buna göre bilgisayarlardan biri işlemcisini yüksek yük altında çalıştırarak sıcaklığını artırırken, diğer bilgisayar bu sıcaklık değişimini algılayabiliyor. Böylece iki sistem arasında Mors koduna benzer şekilde çalışan basit bir iletişim kanalı oluşturulabiliyor.
