OpenAI’nin kurucu ortaklarından Ilya Sutskever, OpenAI’den resmen ayrıldıktan sadece bir ay sonra Safe Superintelligence Inc. (SSI) adlı yeni bir şirket kurdu.
OpenAI’nin uzun süre baş bilim adamı olarak görev yapan Sutskever, eski Y Combinator ortağı Daniel Gross ve eski OpenAI mühendisi Daniel Levy ile birlikte SSI’ı kurdu. X üzerinden Ilya Sutskever imzalı yapılan açıklama şöyle: ” Süperzekâ ulaşılabilir durumda. Güvenli süper zeka (SSI) oluşturmak çağımızın en önemli teknik sorunu. Tek bir hedef ve tek bir ürünle dünyanın ilk doğrudan SSI laboratuvarını kurduk: güvenli bir süper zeka. Adı Güvenli Süper Zeka A.Ş.SSI bizim misyonumuz, adımız ve tüm ürün yol haritamız, çünkü tek odak noktamız bu. Ekibimiz, yatırımcılarımız ve iş modelimiz SSI’a ulaşmak için uyumludur.Güvenlik ve kabiliyetlere, devrim niteliğindeki mühendislik ve bilimsel atılımlarla çözülecek teknik sorunlar olarak birlikte yaklaşıyoruz. Güvenliğimizin her zaman önde kalmasını sağlarken yetenekleri olabildiğince hızlı geliştirmeyi planlıyoruz.Bu şekilde, huzur içinde ölçeklenebiliriz. Tekil odağımız sayesinde yönetimin genel giderleri veya ürün döngüleri dikkatimizi dağıtmaz ve iş modelimiz emniyet, güvenlik ve ilerlemenin kısa vadeli ticari baskılardan yalıtılmış olduğu anlamına gelir.Palo Alto ve Tel Aviv’de ofisleri olan bir Amerikan şirketiyiz, burada derin köklerimiz ve en iyi teknik yetenekleri işe alma becerimiz var.Dünyanın en iyi mühendislerinden ve araştırmacılarından oluşan, başka hiçbir şeye değil SSI’a odaklanmaya adanmış, yalın ve çatlak bir ekip kuruyoruz. Eğer bu sizseniz, hayatınızın işini yapmak ve çağımızın en önemli teknik sorununu çözmeye yardımcı olmak için bir fırsat sunuyoruz.”
OpenAI’de Sutskever, OpenAI’nin Superalignment ekibini yöneten Jan Leike ile birlikte çalıştığı bir alan olan “süper akıllı” yapay zeka sistemlerinin yükselişiyle şirketin yapay zeka güvenliğini geliştirme çabalarının ayrılmaz bir parçasıydı. Ancak hem Sutskever hem de ardından Leike, OpenAI yönetimiyle YZ güvenliğine nasıl yaklaşılacağı konusunda dramatik bir anlaşmazlığa düştükten sonra Mayıs ayında şirketten ayrıldı. Leike şimdi rakip yapay zeka şirketi Anthropic’te bir ekibin başında.
Sutskever uzun bir süredir YZ güvenliğinin zor yönlerine ışık tutuyor. Sutskever, 2023 yılında Leike ile birlikte yayınladığı bir blog yazısında, on yıl içinde insanlardan daha üstün bir zekaya sahip YZ’nin ortaya çıkabileceğini ve ortaya çıktığında da her zaman iyiliksever olmayacağını, onu kontrol etme ve kısıtlama yollarının araştırılmasını gerektireceğini öngörmüştü.
