Автор AlphaGo Девід Сільвер заснував Ineffable Intelligence для створення суперінтелекту

Новий підхід до підсиленого навчання

Девід Сільвер, чия програма AlphaGo перемогла у грі Го у 2016 році, заснував нову компанію Ineffable Intelligence. Стартап будує суперінтелект за допомогою підсиленого навчання: моделі здобувають нові навички методом спроб і помилок. Мета — «супернавчальники», які перевершують людину у багатьох сферах.

Стратегія компанії виділяє її з більшості галузі, оскільки інші шукають суперінтелект шляхом масштабування великих мовних моделей. Сільвер вважає, що цей шлях заходить у глухий кут. «Якби LLM були якими завгодно чудовими, вони вчаться від людського інтелекту, а не створюють власний», — заявив він WIRED. «Місія — це перший контакт із суперінтелектом».

Людські дані як вичерпний ресурс

За думкою Сільвера, навчання на людських даних має обмеження. «Людські дані схожі на вичерпний ресурс, який дав нам чудовий короткий шлях», — каже він. «Самовчаться системи — це оновлюваний ресурс, що вчиться безперервно, без лімітів».

Слабкість підходу LLM Сільвер демонструє на міркувальному експерименті: уявіть мовну модель у світі, яка вважає, що Земля плоска. Без зв'язку з реальним світом вона залишиться прихильницею плоского Землі, навіть якщо код покращиться. AI, що вчиться саме від світу, здатен робити реальні відкриття. Сьогоднішній AI він порівнює з дарвінівною біологією.

Симуляції, безпека та фінансування

Головний технічний виклик — перехід від замкнутих світів, таких як Го, до складності реального світу. За словами Сільвера, відповідь полягає в розміщенні AI-агентів у симуляціях, де вони вчаться цілям та співпраці між собою. Деталі він не розкривав.

Підхід також стосується проблеми вирівнювання: спостерігаючи за агентами в симуляціях, дослідники бачать, як ці поводяться щодо інших, включаючи менш інтелектуальні системи. Партнер Lightspeed Ventures Раві Мхатре каже, що запитував Сільвера про безпеку з побоюванням і переконався: метод веде до кращого шляху вирівняного AI, оскільки менше залежить від людської поведінки.

Ineffable Intelligence залучила 1,1 мільярда доларів у початковому раунді при оцінці 5,1 мільярда доларів, що є неймовірно великою сумою за європейськими стандартами AI. Сільвер залучив топових дослідників з Google DeepMind та інших провідних лабораторій і пообіцяв передати всю отриманну суму благодійним організаціям високої ефективності.

Виняткова репутація

Минулі досягнення Сільвера дають стартапу незвичайну довіру. Його ментор Річ Саттон разом з Ендрю Барто отримали премію Тюрінга у 2025 році за ранні алгоритми підсиленого навчання. Галузь сьогодні зсунулася в бік LLM, але підсилене навчання все ще є суттєвим: воно дозволило поліпшити відповіді чатботів за допомогою людського зворотного зв'язку та зробило можливим прогрес у математиці та програмуванні.

Соня Хуанг від Sequoia Capital, інвестор стартапу, каже, що правдісно фундаментальний внесок у AI мають одиниці, і Сільвер є одним з них. Ендрю Даї, який працював з ним у Google DeepMind, високо оцінює його ідеї та стиль керування: він поважає думку інших і дає дослідникам свободу. Для самого Сільвера головне — це наука. «З точки зору святої науки, це найважливіша наукова місія, в якій тільки можна взяти участь», — сказав він.

Джерела: Wired · Financial Times · Techmeme