Microsoft CEO’su Satya Nadella, güvenli yapay zeka için yapılması gerekenleri sıraladı

Microsoft CEO’su Satya Nadella, X hesabından yaptığı son paylaşımda yapay zeka modellerinin güvenli kullanımına odaklandı. Nadella’ya göre hiçbir model, önemli bir sonuç için tek dayanak olmamalı ya da kendi işini ve işlemlerini doğrulamamalı. Modelin gerçekleştirdiği her anlamlı eylem, değiştirilemeyen ve insanların okuyabileceği bir iz bırakmalı ki bir sonuca nasıl ulaşıldığı, modelin beyanına güvenmeden yeniden üretilebilsin. Sistem yalnızca başarılı görevlerle değil, hatalar, saldırılar, uç durumlar ve sistem değişiklikleriyle de sürekli test edilmeli. Bağımsız kuruluşlar, bir modelin nelere erişebileceğini ve hangi işlemleri yapabileceğini görebilmeli. Doğrulama süreci doğrulanan modelden bağımsız olmalı, bir sistemin davranışını ve bu davranışın asıl amaçla uyumlu olup olmadığını gösteren kanıtların kontrolü de hiçbir modelin elinde olmamalı. Bir modeli ilk günden güvenilmez kabul edip en baştan kontrol altında tutmalıyız. “Bunu bir acil durum freni gibi düşünün.” diyen Nadella, “Yetkili bir kişi, bir modeli görevin ortasında her zaman duraklatabilmeli ya da kapatabilmeli.” ifadelerini kullanıyor. Nadella’ya göre daha gelişmiş modeller, ortak standarda dönüştürülmesi gereken daha ileri kontrol teknolojileri gerektirecek. Bu sistemler arızalandığında ya da ele geçirildiğinde, etkilenenler zamanında bilgilendirilmeli, neyin ters gittiği ve hangi kontrollerin işlemediği de ajanların çalışma sırasındaki davranışını değiştiren uygulama ayrıntıları dahil tüm sektörle şeffaf biçimde paylaşılmalı.

İLGİNİZİ ÇEKEBİLİR

Elektrikli Volvo ES90 için resmi Türkiye fiyatı açıklandı