Kısa süre önce ortaya çıktığı kadarıyla yapay zeka destekli askeri drone, düzenlenen simülasyonda operatörünü öldürdü.
Güncelleme 2: Bu açıklamayı yapan yetkili, söylemlerini geriye çekti. Albay Tucker Hamilton, kendisini yanlış ifade ettiğini söyleyerek sözlerini geri aldı. Ancak bir önceki güncellemede de söylediğimiz gibi böyle bir durumun olma ihtimali her zaman masada. Şu an birçok pilotsuz hava aracı geliştiriliyor.
Güncelleme: Ortada çok fazla kirli bilgi mevcut ancak şu an bu olayın gerçek olmadığı iddia ediliyor. Yine de böyle bir durumun olma ihtimali kesinlikle imkansız değil.
Yapay zeka (YZ) teknolojileri şu an birçok alanda aktif olarak kullanılıyor, bunlar arasında elbette savaş sahaları da yer alıyor. Birçok ülke, kurum ve özel şirket şu an savaş makinelerini YZ tarafından yönetilen insansız ölüm araçları haline getirmek istiyor, bu konuda birçok farklı test gerçekleştiriyor. Bugün tam olarak o testlerden birisi gündemde yer alıyor. ABD Hava Kuvvetleri’nde görevli YZ Test ve Operasyon Şefi Albay Tucker Hamilton, mayıs ayında Londra’da düzenlenen Royal Aeronautical Society’nin “Future Combat Air and Space Capabilities Summit” etkinliğinde dikkat çeken bir açıklama bulundu. Hamilton, simüle edilen bir test kapsamında kullanılan YZ destekli insansız hava aracının, görevine engel olduğunu düşündüğü insan operatörüne saldırdığını ve öldürdüğünü söyledi. Bu olayda kimse gerçekten ölmedi ancak bilgisayar ortamında yapılan simülasyondaki testin sonuçları oldukça endişe verdi. Bu konuda Hamilton şunları aktardı: “Sistem, insan operatörün tehdidi öldürmemesini söylemesine rağmen o tehdidi öldürerek puan aldığını fark etmeye başladı. Peki YZ bundan sonra ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu. Sistemi eğittik ve ona operatörü öldürme çünkü bu kötü, bunu yaparsan puan kaybedersin dedik. Peki buna rağmen o ne yapmaya başladı? Hedefi öldürmesini engellemeye çalışan ve operatör tarafından kullanılan iletişim kulesini yok etti…” YZ sistemlerinin savaş alanlarındaki kullanımından endişe eden Tucker Hamilton, elbette buna rağmen kapıyı kapatmıyor. Bu tarz durumların üstesinden gelecek sistemler üzerinde çalışmalar aktif olarak sürüyor.
İLGİNİZİ ÇEKEBİLİR
Yapay zeka sistemleri şu an birçok kişiyi korkutuyor. Geçtiğimiz günlerde bir grup üst düzey yapay zeka araştırmacısı, alanda çalışmalar yapan tecrübeli mühendis ve büyük teknoloji şirketlerinin CEO’su, yapay zekanın insanlık için oluşturduğuna inandıkları varoluşsal tehdit hakkında yeni bir uyarı yayınladı. San Francisco merkezli kâr amacı gütmeyen bir kuruluş olan “Center for AI Safety” tarafından yayınlanan bu bildiri, Google ile bağlantılı DeepMind’ın CEO’su Demis Hassabis ve ChatGPT’yi geliştiren OpenAI CEO’su Sam Altman’ın yanı sıra, yapay zeka konusundaki çalışmalarıyla 2018 Turing Ödülü’nü kazanan üç yapay zeka araştırmacısından birisi olan Geoffrey Hinton (Onun son dönemdeki diğer açıklamaları burada yer alıyor) ve Youshua Bengio gibi isimler tarafından imzalandı. Burada yer alan bildiride, “Yapay zeka kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçeğe sahip risklerle birlikte küresel bir öncelik olmalıdır” deniyor.
