ABD Senatosu Yargı Komitesi’nde yakın zamanda yapılan bir oturumda, yapay zeka araştırma dünyasının önde gelen isimleri, yeni gelişen teknolojiyi ve potansiyel etkilerini tartışmak üzere bir araya geldi. Aralarında Anthropic’ten Dario Amodei, UC Berkeley’den Stuart Russell ve deneyimli bir yapay zeka araştırmacısı olan Yoshua Bengio’nun da bulunduğu liderler, iki ana kategori etrafında birleşen görüşlerini dile getirdiler.
Dario Amodei, yapay zeka tedarik zincirinin güvenliğinin sağlanmasının, güvenlik açıklarının tespit edilmesinin ve güvenlik testlerinin uygulanmasının önemini vurgularken, bu standartların oluşturulmasının henüz erken aşamalarda olduğunu kabul etti. Seçimler sırasında yanlış bilgilendirme, deepfakes ve propaganda gibi acil risklere karşı uyardı.
Yoshua Bengio, büyük ölçekli yapay zeka modellerine erişimin sınırlandırılması, güvenlik ve emniyetin teşvik edilmesi ve yapay zeka modellerinin amaçlandığı gibi hareket etmesinin sağlanması gerektiğini vurguladı. Teknolojinin hala tam olarak anlaşılamadığına dikkat çekerek, yapay zeka güvenlik araştırmalarında küresel işbirliği çağrısında bulundu ve sosyal medya hesaplarının doğrulanmış insan kullanıcılarla sınırlandırılmasını önerdi.
Techcrunch’ın haberine göre Stuart Russell ise eyleme geçirilebilir dört öneri ortaya koydu. Bir insanla mı yoksa makineyle mi etkileşimde bulunulduğunu bilme hakkı, insanları öldürmeye karar verebilen algoritmaların yasaklanması, hileli yapay zeka sistemleri için bir acil durum anahtarının zorunlu kılınması ve düzenlemeleri ihlal eden sistemlerin geri çağrılması. Kişiselleştirilmiş yapay zekanın zararlı dış etki kampanyaları için kullanılmasına ilişkin endişelerini dile getirdi ve test, denetim ve uygulama önlemlerini güçlendirmek için temel araştırmalara daha iyi yatırım yapılması çağrısında bulundu. Russell, yapay zeka güvenlik araştırmalarına daha fazla fon sağlanması gerektiğini vurguladı. Çin’in yapay yetenekleriyle ilgili endişelere değinen uzmanlar, ülkenin uzmanlığının abartıldığını, ancak ses ve yürüyüş tanımlama gibi gözetim alanındaki ilerlemelerinin kayda değer olduğunu belirtti.
Araştırmacılar yapay zeka düzenlemesinde hızlı hareket edebilecek bir hükümet organının kurulmasının aciliyetinin altını çizdi.
