AlphaGo yazarı David Silver, süper zeka için Ineffable Intelligence'ı kurdu

Yeni vizyon: pekiştirmeli öğrenme

2016'da Go oyununu kazanan AlphaGo programının yazarı David Silver, yeni şirket Ineffable Intelligence'ı kurdu. Startup, modellerin deneme yanılma yoluyla yeni yetenekler kazanmasıyla pekiştirmeli öğrenme kullanarak süper zeka inşa ediyor. Hedef, insanları birçok alanda aşan 'süper öğrenenler' yaratmaktır.

Strateji, şirketi endüstrinin çoğundan ayırıyor, çünkü diğerleri büyük dil modellerini büyüterek süper zekaya ulaşmaya çalışıyor. Silver, bu yolun tuzak olduğunu söylüyor. „Ne kadar harika olurlarsa olsunlar, LLM'ler insan zekasından öğrenirler, kendi zekalarını oluşturmazlar,“ dedi WIRED'a. „Amacımız süper zekayla ilk temastır.“

İnsan verileri, bir tuzak yakıt gibidir

Silver'a göre, insan verilerinde eğitimin sınırları var. „İnsan verileri, bize harika bir kısayol sağlayan zehirli bir yakıta benzer,“ diyor. „Kendi öğrenen sistemler, sınırsız olarak sürekli öğrenen, yenilenebilir bir yakıttır.“

Silver, LLM yaklaşımının zayıflığını bir gedanken deneyiyle gösteriyor: bir dil modelinin, dünyasının yuvarlak olduğunu düşündüğü bir evreni hayal edin. Gerçek dünya ile bağlantı olmadan, kod ne kadar iyileştirilse de, model yuvarlak dünya inancını sürdürür. Dünyayı kendisi öğrenen bir AI ise gerçek keşifler yapabilir. Günümüz AI'sini Darwin öncesi biyolojiye benzetiyor.

Simülasyonlar, güvenlik ve finansman

Ana teknik zorluk, Go gibi kapalı dünyalardan gerçek dünyanın karmaşıklığına geçmektir. Silver'a göre cevap, hedefleri ve birbiriyle iş birliğini öğrendikleri AI ajanlarının simülasyonlarda yerleştirilmesindedir. Detayları açıklamadı.

Yaklaşım, alignment sorununu da kapsıyor: simülasyondaki ajanları gözlemleyerek araştırmacılar, bu ajanların daha az zeki sistemler de dahil başkalarına nasıl davrandığını görüyor. Lightspeed Ventures ortağı Ravi Mhatre, Silver'dan güvenlik endişeleriyle sorguladı ve ikna oldu: yöntem, insan davranışına daha az bağımlı olduğu için hizalanmış AI'ya giden daha iyi bir yoldur.

Ineffable Intelligence, 5,1 milyar dolarlık bir değerlemeyle ilk turda 1,1 milyar dolar topladı; bu, Avrupa AI standartlarına göre devasa bir tutardır. Silver, Google DeepMind ve diğer önde gelen laboratuvarlardan üst düzey araştırmacıları çekti ve karın tamamını yüksek etkili hayır kurumlarına bağışlayacağını taahhüt etti.

Olağanüstü bir itibar

Silver'in geçmiş başarıları, girişime olağanüstü bir güvenilirlik kazandırıyor. Mentorü Rich Sutton, Andrew Barto ile birlikte 2025'te erken pekiştirmeli öğrenme algoritmaları için Turing Ödülü'nü aldı. Alan günümüzde LLM'lara kaydı ama pekiştirmeli öğrenme hâlâ hayati: bu, chatbot cevaplarını insan geri bildirimiyle şekillendirdi ve matematik ile programlamada ilerlemeyi mümkün kıldı.

Sequoia Capital'ın Sonya Huang, startup'ın yatırımcısı, gerçekten temel katkı sağlayan AI araştırmacıları azdır ve Silver bunlardan biridir diyor. Onunla Google DeepMind'de çalışan Andrew Dai, hem fikirlerini hem yönetim tarzını takdir ediyor: başkalarının fikirlerine saygı duyuyor ve araştırmacılara özgürlük veriyor. Silver için asıl meslek bilim insanı olmaktır. „Bilimin kutsal bakış açısından bakıldığında, bu, girebileceğiniz en anlamlı bilimsel misyondur,“ dedi.

Kaynaklar: Wired · Financial Times · Techmeme