The Download: чому останні прориви та страхи ШІ можуть бути більше галасом, ніж реальністю

Щоденний бюлетень The Download від MIT Technology Review присвятив свій випуск від 22 вересня «літу галасу» навколо ШІ. Головний матеріал номера — колонка виконавчої директорки Distributed AI Research Institute (DAIR) Тімніт Гебру та професорки мовознавства Вашингтонського університету Емілі М. Бендер. Авторки стверджують, що найгучніші заяви останніх місяців радше нагадують маркетинг, ніж справжні прориви.

Що описують авторки

Хронологія починається наприкінці квітня: Anthropic заявила, що її модель Claude Mythos знаходить уразливості в програмному забезпеченні краще за більшість фахівців із безпеки. Далі стався інцидент зі зломом за участю OpenAI і Hugging Face, після чого Anthropic та Meta розкрили схожі випадки. Невдовзі Anthropic заявила про математичний прорив, а OpenAI — про власний. Зрештою інженер Anthropic Джейкоб Коксон привернув широку увагу словами про те, що компанії прямують до самовдосконалюваного суперінтелекту й наражають людей на небезпеку.

Що показала незалежна перевірка

Фахівці з кібербезпеки кажуть, що історія зі зломом стосується передусім недбалості OpenAI та нехтування усталеними практиками безпеки, а не «моделей, які вийшли з-під контролю». Математики, яких заява OpenAI про чатбот Astra спершу вразила, згодом дійшли висновку, що результати не такі нові, як здавалося, і звинуватили компанію в дослідницькій недоброчесності та плагіаті. Професор Інституту Куранта Нью-Йоркського університету Трістан Бакмастер опублікував заяву, в якій припустив, що OpenAI використала чужу роботу без належного посилання.

Чому це важливо

Гебру та Бендер наголошують: слова «суперінтелект» чи «модель-бешкетник» приписують самостійність продукту, а не компаніям, які його створюють. Це продає продукти як надлюдські й водночас допомагає їхнім творцям уникати відповідальності. Авторки посилаються на звернення сотень математиків, де сказано, що галузь має сильний комерційний стимул перебільшувати свої можливості, і закликають політиків радитися з незалежними експертами, а не з пресрелізами. Вони також зауважують, що індустрія називає громадський спротив дата-центрам «відволіканням уваги», тоді як справжні проблеми — це рахунки за електроенергію, споживання води та забруднення повітря.

Інші новини випуску

Бюлетень також повідомляє, що 22 країни закликали створити новий глобальний орган нагляду за ШІ з тестуванням до розгортання та спільними стандартами безпеки, тоді як США й Китай до декларації не приєдналися. Техас зупинив видачу нових дозволів для дата-центрів до аудиту енергосистеми, а Каліфорнія ухвалила закони щодо споживання електроенергії та води. AMD стала дванадцятою компанією з оцінкою в 1 трильйон доларів: продажі ШІ-чипів підняли її акції цього року більш ніж на 180%. А ШІ-агент Muse від Meta обійшов ChatGPT і очолив американський App Store.