Понад 20 дослідників ШІ застерігають: автоматизація досліджень AI може спричинити інтелектуальний вибух

28 вересня 2026 року понад 20 дослідників штучного інтелекту опублікували звіт, у якому попереджають, що автоматизація досліджень і розробок у сфері AI може спричинити "інтелектуальний вибух". Документ підписали, як приватні особи, нобелівський лауреат Джеффрі Гінтон, Йошуа Бенджіо, головний науковий співробітник OpenAI Якуб Пачоцький, співзасновник Anthropic Джек Кларк, головний науковий директор Microsoft Ерік Хорвіц і віцепрезидентка Meta з досліджень ШІ Дон Сон.

Що автори називають інтелектуальним вибухом

Звіт має назву "What if automating AI R&D triggers an intelligence explosion?". Термін у ньому визначено як різке прискорення прогресу ШІ під дією самого ШІ, коли досягнення, на які зазвичай потрібні роки, стискаються до місяців або менше. Механізм, про який ідеться, це рекурсивне самовдосконалення: системи покращують власні технології без участі людини.

За словами авторів, коли системи досягнуть експертного рівня в дослідженнях і розробці AI, один розробник зможе керувати робочою силою, еквівалентною "мільйонам" найкращих дослідників. Уже зараз системи пишуть більшість коду в компаніях, які їх створюють: за даними Anthropic, AI генерує 80% її коду.

Користь, ризики й визнана невизначеність

У звіті сказано, що попередні свідчення вказують на можливість інтелектуального вибуху, керованого програмним забезпеченням, а це призведе до надзвичайно швидкого розвитку надпотужних або надлюдських систем. Це може дати прориви в медицині, але автори називають три ризики: біологічні й кіберзагрози, що розвиваються швидше за захисні заходи; втрату контролю в міру усунення людини від досліджень; перетворення невеликої переваги, наприклад у кіберпросторі, на вирішальну.

Автори наголошують, що ці наслідки невизначені: прорив може затриматися через ланцюги постачання чи регулювання, а AI здатен і пришвидшити пом'якшення ризиків. Підготовка до стрімкого прогресу "має бути нагальним пріоритетом, зокрема на найвищому державному рівні".

П'ять пропозицій для урядів

Автори закликають уряди вимагати прозорої звітності про автоматизацію досліджень AI та впроваджувати незалежних аудиторів усередині компаній; обмежити швидкість, з якою модель може покращуватися за певний період; ізолювати автоматизовані системи досліджень AI, щоб вони не виходили з-під контролю людини; і створити плани екстреного реагування.

За оцінкою авторів, до 2028 року можуть бути повністю автоматизовані дослідницькі проєкти, на які людині потрібні місяці. "Зростання продуктивності від автоматизації досліджень AI ще не досягло порогу, потрібного для інтелектуального вибуху, але результати новіших систем наближаються до цього порогу", пишуть вони. "Після початку інтелектуального вибуху вікно для дій може закритися", зазначають автори.