Чому літній хайп навколо ШІ не витримує перевірки експертів

У колонці, опублікованій 22 вересня в MIT Technology Review, виконавча директорка Distributed AI Research Institute (DAIR) Тімніт Ґебру та лінгвістка Емілі М. Бендер стверджують, що хвиля заяв про ШІ цього літа не витримує перевірки фахівців.

Літо гучних заяв

Авторки відтворюють послідовність: наприкінці квітня Anthropic заявила, що її модель Claude Mythos знаходить уразливості в програмному забезпеченні краще за більшість експертів із безпеки. Потім стався інцидент зі зломом OpenAI–Hugging Face, після якого Anthropic «з гордістю», а Meta «неохоче» повідомили про схожі випадки зі своїми моделями. Далі Anthropic заявила, що одна з її моделей зробила математичний прорив, і невдовзі OpenAI заявила про власний. Зрештою інженер Anthropic Джейкоб Коксон став вірусним, оголосивши про відхід: за його словами, обидві компанії «мчать прямо до самовдосконалюваного суперінтелекту й грають нашими життями».

Що виявили експерти

Галас отримав інтенсивне висвітлення, пишуть авторки, але картина після вивчення подій фахівцями привертає значно менше уваги. Фахівці з кібербезпеки кажуть, що інциденти зі зломом — це передусім недбалість OpenAI і нехтування базовими усталеними практиками безпеки, а не «моделі, що вийшли з-під контролю». Математики, яких спершу приголомшив пресреліз про те, що чатбот Astra розв’язав задачі, відкриті щонайменше десятиліття, згодом дійшли висновку, що результати не такі нові, як здалося, і звинуватили компанію в дослідницькій неетичності та плагіаті. За два дні до чергової заяви OpenAI про математичний прорив професор Інституту Куранта при Нью-Йоркському університеті Трістан Бакмастер опублікував заяву, в якій припустив, що компанія використала чужі роботи й неправильно вказала авторство.

«Суперінтелект» як маркетинг і як щит

Заяви про неминучий небезпечний суперінтелект не мають підґрунтя в науці чи інженерії, твердять авторки: це наративи, засновані на ідеологіях трансгуманізму, євгеніки та бажаного мислення про уявних цифрових людей. Називаючи системи «суперінтелектом» чи «моделями-бешкетниками», суспільство приписує суб’єктність продуктам, а не компаніям, які їх створюють — це продає продукти як «надлюдські» і водночас допомагає компаніям уникати відповідальності. Заява, підписана сотнями математиків, попереджає про «потужний комерційний стимул технологічної індустрії перебільшувати можливості своїх продуктів» і закликає політиків радитися з експертами, а не з пресрелізами. Колонка також критикує спроби індустрії назвати анти-датацентровий активізм «відволіканням»: публіку просять боятися вигаданого машинного бога більше, ніж кліматичного впливу дата-центрів, астми в їхніх сусідів, зростання рахунків за електроенергію та води, відведеної на охолодження. Авторки підсумовують, що найкращим результатом було б збереження скепсису та впізнавання цієї схеми наступного разу.