Dört büyük teknoloji şirketi, yapay zekanın geleceği için önemli adımlar atmaya devam ediyor. OpenAI, Microsoft, Google ve Anthropic, Temmuz 2023’te bir araya geldiklerini duyurarak “Frontier Model Forum” adlı bir platform kurmuşlardı. Bu forum, özellikle sınır yapay zeka modellerinin güvenli ve sorumlu bir şekilde geliştirilmesini hedefliyordu.
Bu şirketler, Frontier Model Forum’un ilk İcra Direktörü olarak Chris Meserole’u atadıklarını ve yapay zeka güvenliği alanındaki araştırmaları geliştirmek için 10 milyon doları aşan bir girişimle “Yapay Zeka Güvenlik Fonu”nu kurduklarını açıkladı. Bu güvenlik fonuna, dört teknoloji devi yanı sıra Patrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Google’ın eski CEO’su ve hayırsever Eric Schmidt ve Estonyalı milyarder Jaan Tallinn gibi önemli isimler katkı sağlıyor.
Bu fon, yeni yapay zeka modellerinin değerlendirilmesi ve sınır sistemlerinin potansiyel tehlikeli yeteneklerinin değerlendirme tekniklerinin geliştirilmesi için öncelik verilecek. Bu, yapay zeka modellerinin sorumlu bir şekilde kullanılabilmesi için önemli olarak nitelendiriliyor.
Ayrıca, bu çalışma grubu, “Zararlı yeteneklerin, çıktıların veya altyapı tehditlerinin belirlenmesi için YZ sistemlerini ve ürünlerini araştırmaya yönelik yapılandırılmış bir süreç” şeklinde bir tanım sunuyor ve bunu vurgulayan vaka çalışmalarını paylaşıyor.
