OpenAI tarafından geliştirilen üretken yapay zeka temelli sohbet botu ChatGPT, kısa süre önce ciddi bir sorun yaşadı.
Arka planda tam olarak ne olduğu elbette bilinmiyor ancak dün ChatGPT sisteminin altyapısında yaşanan teknik bir sorun, sohbet botunun verdiği cevaplarda adeta “saçmalamasına” neden oldu. Bir anda farklı dillerde cevaplar vermeye başlayan, aynı cevap içinde kendi kendisini defalarca düzeltmeye çalışan ve bazı oldukça garip döngülere giren sistem, bu durumlar ile birçok kullanıcıyı güldürdü, bazı kullanıcıları ise ürküttü. Bu konuda gelen şikayetleri ve kullanıcı bildirimlerini gören OpenAI ise “ChatGPT’den gelen beklenmedik yanıtlarla ilgili raporları araştırıyoruz” dedi ve sorunu daha sonra büyük oranda ortadan kaldırdı. İlk defa bu tarz sorunlar ile gündeme gelmeyen sistem, sürekli olarak geliştiriliyor ve zaman zaman böyle gariplikler olabiliyor. Yapay zeka sistemi bundan önce ise “Hacker’lar siber saldırılarını geliştirmek için ChatGPT kullanıyor” açıklaması ile gündeme gelmişti. Bu aslında büyük de bir sürpriz olmamıştı çünkü ChatGPT gibi sistemler büyük faydaları yanında kötü anlamda birçok farklı kapıyı aralayarak istenmeyen durumlara karşı ciddi zaman kazandırabiliyor.
İLGİNİZİ ÇEKEBİLİR
Yeni yayınlanan araştırma kapsamında bu temelde bilgiler veren Microsoft ve OpenAI, “Rusya, Kuzey Kore, İran ve Çin” destekli grupların belirledikleri hedefleri araştırmak, hack sürecinde kullandığı komut dosyalarını geliştirmek ve hepsinden önemli sosyal mühendislik teknikleri oluşturmak için ChatGPT gibi araçları kullandıklarını tespit ettiklerini belirtiyor.
Microsoft ve OpenAI henüz GPT-4 gibi LLM’leri kullanan herhangi bir önemli saldırı tespit etmediklerini ancak hack gruplarıyla ilişkili tüm hesapları kapattıklarını belirtiyor. Günümüzde sohbet botları ya da büyük dil modelleri üzerinde çalışan her firmanın bu konuya büyük önem vermesi gerekiyor, özellikle açık kaynak büyük dil modellerinde bu durumlara karşı özel güçlü koruma sistemlerinin olması gerekiyor.
https://twitter.com/seanw_m/status/1760115118690509168?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1760115118690509168%7Ctwgr%5E02c895ae071f4c2ff6c83833da0ac1ed267fdf88%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.theverge.com%2F2024%2F2%2F21%2F24079047%2Fchatgpt-malfunction-hallucination-responses-openai
