Тімніт Гебру: екзистенційної загрози від AI не існує, а наратив про неї шкідливий

Дослідниця AI Тімніт Гебру каже, що дебати про те, чи загрожує AI людству, — це не відволікання від реальних проблем технології, а шкода. У подкасті WIRED «The Big Interview» вона сказала ведучій Лорен Гуд: «Це не просто відхилення, це шкода».

Інтерв’ю вийшло після того, як молода дослідниця з Anthropic залишила посаду й написала в X, що багато хто в компанії вважає AI екзистенційною загрозою.

Риторика, яка повторюється циклами

За словами Гебру, Ілон Маск і Пітер Тіль говорять про екзистенційну загрозу AI з 2013 року, і схожі заяви повертаються кожні три роки. Вона згадала Future of Life Institute, який заснували фізик MIT Макс Тегмарк і співзасновник Skype, інвестор Series A раунду Anthropic Ян Таллін.

За її словами, ті самі мільярдери, які очікують найбільшого прибутку від виходу Anthropic на фондовий ринок, фінансували й інституції, що попереджають про екзистенційну загрозу, і організації, які подають як незалежні треті сторони. «Тому люди мають питати чому», — каже вона.

Регулювання та захоплення

Про виступи Сема Альтмана з OpenAI та Даріо Амодея з Anthropic в ООН, де обидва говорили про ризики для людства, Гебру сказала, що це захоплення регулювання. Вона згадала, що у 2023 році Альтман вимагав глобальної співпраці, а після ухвалення AI Act погрожував виходом з Європейського Союзу. Китайські регулятори, за її словами, говорять про дипфейки та конкретні проблеми.

Вона не юристка, тому в пропозиціях спирається на колишню очільницю FTC Ліну Хан: застосування законів проти оманливого маркетингу, документування походження тренувальних даних і припинення експлуатації людей, які працюють з даними.

«stochastic parrots» та її критика

Стаття Гебру 2021 року «On the Dangers of Stochastic Parrots» порівнює великі мовні моделі з папугами: вони неусвідомлено повторюють найімовірнішу послідовність тексту. Google спочатку схвалив статтю, потім частина стала спірною, і Гебру залишила компанію.

Співзасновник Anthropic Джек Кларк нещодавно в X порівняв це формулювання з «меметично стійким когнітивним вірусом». Гебру каже, що це її не здивувало, і заперечує застарілість дослідження: «Міркування не існує. Рекурсивного інтелекту теж не існує».

Вона також згадала статтю команди Семі Бенджіо 2025 року: навіть незначна зміна бенчмарків руйнує результати, які подають як міркування. Справжня оцінка потребує часу, тому компанії мають публікувати дані.

Що дає надію

Нова книга Гебру, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, виходить на початку наступного року. Її інститут веде «AI Resist List», де зібрано творців альтернативного технологічного майбутнього: «Віра в людську волю й колективну силу, я думаю, саме вона дає мені надію».