OpenAI, baş bilim insanı arasında yer alan ve şirketin kurucularından Ilya Sutskever liderliğinde, “süper zeki” yapay zeka sistemlerini yönlendirmek ve kontrol etmek için yollar geliştirmek üzere yeni bir ekip kuruyor.
TechCrunch’ın haberine göre OpenAI’ın Bbugün yayınladığı bir blog yazısında Sutskever ve OpenAI’deki hizalama ekibinin liderlerinden Jan Leike, on yıl içinde insanlarınkini aşan bir zekaya sahip yapay zekanın ortaya çıkabileceğini öngörüyor. Sutskever ve Leike, bu yapay zekanın – gerçekten de eninde sonunda ortaya çıkacağını varsayarsak – mutlaka iyiliksever olmayacağını, onu kontrol etme ve kısıtlama yollarının araştırılmasını gerektireceğini belirtti.
“Şu anda, potansiyel olarak süper zeki bir YZ’yi yönlendirmek veya kontrol etmek ve kötü yola düşmesini önlemek için bir çözümümüz yok. İnsan geri bildirimlerinden takviye öğrenme gibi YZ’yi hizalamaya yönelik mevcut tekniklerimiz, insanların YZ’yi denetleme becerisine dayanıyor. Ancak insanlar bizden çok daha zeki olan YZ sistemlerini güvenilir bir şekilde denetleyemeyeceklerdir.”
OpenAI’nin önceki hizalama bölümünden bilim insanları ve mühendislerin yanı sıra şirketteki diğer kuruluşlardan araştırmacıların da katıldığı ekip, önümüzdeki dört yıl içinde süper zeki yapay zekayı kontrol etmenin temel teknik zorluklarını çözmeyi amaçlayacak.
