OpenAI, şirket içindeki modellerin siber güvenlik alanında tehlikeli derecede güçlü hale geldiğini görünce, gelişmiş modeller üzerinde yürüttüğü büyük RL (Reinforcement Learning yani en temel haliyle modele yaptığı davranışların sonucuna göre ödül veya ceza benzeri bir geri bildirim vererek hangi davranışların daha iyi olduğunu öğretmek) eğitim süreçlerinden bazılarını geçici olarak durdurma kararı aldı. Bu önemli adım hakkında yaptığı açıklamada OpenAI CEO’su Sam Altman, “Yeni modellerin kapasitesine uyum sağlayabilmek ve güvenlik standartlarını karşılayabildiğimizden emin olmak için bazı öncü RL eğitimlerini duraklattık. Gelişim artık çok hızlı ilerliyor ve model yeteneklerinin güvenlik ve uyum çalışmalarının ilerleme hızını aştığını düşündüğümüz takdirde harekete geçeceğimizi uzun zamandır söylüyoruz. Yapay zeka sistemlerinin güvenliğini son derece önemsiyoruz. Tüm sektörün ortak güvenlik standartları üzerinde bir araya gelmesi gerektiğine inanıyoruz ancak bu gerçekleşene kadar gerektiğinde tek taraflı olarak da harekete geçmekten çekinmeyeceğiz. Yürüttüğümüz uyum çalışmalarına iyimser yaklaşıyoruz ve öncü düzeydeki yetenekleri geniş çapta erişilebilir hale getirme konusundaki kararlılığımızı sürdürüyoruz.” ifadelerini kullandı.
İLGİNİZİ ÇEKEBİLİR
OpenAI, geçtiğimiz hafta da geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında beklentilerin ötesinde ilerleme göstermesi üzerine modelin bazı yönleriyle ilgili çalışmaları askıya aldığını duyurmuştu. Şirketin iç değerlendirmesine göre Astra, iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız biçimde gerçekleştirebilecek kritik siber güvenlik eşiğine ulaştı. Astra’nın çok ses getiren “Hugging Face” olayında yer almadığını belirten OpenAI, buna benzer daha büyük bir saldırıdan endişe duyduğu için Astra’ya yönelik daha güçlü güvenlik sistemlerinin geliştirileceğini aktarıyor. Bu konuda Sam Altman şunları söylemişti: “Astra çok güçlü bir model ve onu genel kullanıma sunmak için çalışıyoruz. Güçlü modelleri yalnızca seçilmiş birkaç kişinin erişimine açmanın iyi bir strateji olduğunu düşünmüyoruz. Ancak siber alandaki yetenekleri göz önüne alındığında, bunu güvenli bir şekilde yapabilmek için biraz daha zamana ihtiyacımız var. Yine de umarız genel çıkış çok uzun sürmez!” OpenAI araştırmacısı Noam Brown, geçtiğimiz hafta yeni yapay zeka ailesindeki bir modelin matematik, kuantum dolanıklığı ve teorik bilgisayar biliminde uzun süredir açık olan 10 önemli problemi çözdüğünü söylemişti.
