ChatGPT’nin arkasında yer alan OpenAI, “GPT-4, biyolojik silah üretiminde internetten biraz daha fazlasını sunuyor” açıklamasını yaptı.
OpenAI, kendi içinde yürüttüğü bir araştırma kapsamında önemli açıklamalarda bulundu. Buna göre şirketin geliştirdiği ücretli ChatGPT’ye temel olan “GPT-4” isimli büyük dil modeli, biyolojik silahları araştırma ve üretme konusunda insanlara internette yer alan bilgiler karşısında yalnızca küçük bir avantaj sağlıyor. Yani ChatGPT kişilere biyolojik silah üretme söz konusu olduğunda Google sonuçlarına oranla aşırı fazla detay vermiyor ancak yine de bilgi alınabiliyor. Bu konuda endişe edilmemesi gerektiğini söyleyen ancak süreçteki koruma sistemlerinin geliştirileceğini belirten çünkü halen bazı hayati riskler oluşturan firma, uzmanların sık sık dile getirdiği, “GPT-4 teröristlere, suçlulara ve diğer kötü niyetli kişilere önemli ölçüde yardımcı olabilir” endişesini paylaşmıyor ancak durum gerçekte tam olarak öyle görünmüyor. OpenAI, eğer kaçırdıysanız yakın bir zaman önce yapay zekanın risklerini değerlendirmek için özel bir ekip kurdu. Şirket elbette yapay zeka konusundaki endişeleri ve riskleri görüyor, bu alanda daha iyi olmak adına yeni bir ekip kuruyor.
İLGİNİZİ ÇEKEBİLİR
Bu ekibin görevi, mevcut büyük dil modellerinden genel yapay zekaya kadar yüksek kapasiteli yapay zeka sistemlerinin risklerini değerlendirmek, yaklaşan riskleri önceden tespit etmek ve bunlara karşı korunmanın yollarını bulmak. Bunun için kurulan takıma “Preparedness” adını veren firma, ekibin başına MIT’den oldukça tecrübeli Aleksander Madry‘i geçirmiş durumda.
Yapay zeka etrafında oluşan potansiyel katastrofik riskleri çok iyi ve detaylı şekilde değerlendirmek isteyen OpenAI, kurulan takımın kimyasal, biyolojik ve radyolojik tehditlerin yanı sıra bir yapay zekanın kendi kendini çoğaltması durumları üzerinde de çalışmalar yapacağını belirtiyor. Hepsine ek olarak ekibin yapay zekanın insanları kandırma kabiliyeti ve yapay zekanın getirdiği siber güvenlik tehditlerini de analiz edeceği söyleniyor. Bu atılan adımlar elbette çok önemli görünüyor, birçok uzman yapay zekadan oldukça korkuyor çünkü kötü niyetli kişilerin yapay zeka ile gücünü / etkisini artırabileceği biliniyor.
