OpenAI, yeni yapay zeka modeli Astra’nın yapabileceklerinden endişe duydu

OpenAI, geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında beklentilerin ötesinde ilerleme göstermesi üzerine modelin bazı yönleriyle ilgili çalışmaları askıya aldığını duyurdu. Şirketin iç değerlendirmesine göre Astra, iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız biçimde gerçekleştirebilecek kritik siber güvenlik eşiğine ulaştı. Astra’nın çok ses getiren “Hugging Face” olayında yer almadığını belirten OpenAI, buna benzer daha büyük bir saldırıdan endişe duyduğu için Astra’ya yönelik daha güçlü güvenlik sistemlerinin geliştirileceğini aktarıyor. Konu hakkında OpenAI CEO’su Sam Altman ise şunları söylüyor: “Astra çok güçlü bir model ve onu genel kullanıma sunmak için çalışıyoruz. Güçlü modelleri yalnızca seçilmiş birkaç kişinin erişimine açmanın iyi bir strateji olduğunu düşünmüyoruz. Ancak siber alandaki yetenekleri göz önüne alındığında, bunu güvenli bir şekilde yapabilmek için biraz daha zamana ihtiyacımız var. Yine de umarız genel çıkış çok uzun sürmez!” OpenAI araştırmacısı Noam Brown, geçtiğimiz hafta yeni yapay zeka ailesindeki bir modelin matematik, kuantum dolanıklığı ve teorik bilgisayar biliminde uzun süredir açık olan 10 önemli problemi çözdüğünü söylemişti.

İLGİNİZİ ÇEKEBİLİR

Yeni süper otomobil modeli “Hennessey Blackbird” tanıtıldı