Майкл І. Джордан називає риторику про загибель AI «великою моралізаторською виставою»

Піонер AI виступає проти паніки

Майкл І. Джордан, якого Science у 2016 році назвав «найвпливовішим комп’ютерним науковцем», називає попередження про існуючі небезпеки AI чистою науковою фантастикою. 70-річний піонер машинного навчання, професор-емерит UC Berkeley, розмовив у широкому інтерв’ю з Libération. Зараз він працює на повній ставці в Inria в Парижі, у французькому національному інституті досліджень цифрових наук і технологій, де очолює нову кафедру «Ринки та навчання».

Під час розмови про літню дискусію про AI Джордан назвав її «абсолютно розчаровуючою». Ще у 2019 році він попереджав про надмірне вживання терміна AI і каже, що ескалація пішла передбачуваним шляхом. «AI виявилося недостатнім, тому розмову перенесли на AGI, а тепер йдеться про “суперінтелект”», — каже він.

Відставки названі театром

Джордан називає вимоги регулювання AI-компаній «театром»: на його слова, так кажуть «ми хороші», а також «хочемо повного контролю над тим, як їх регулюють». Він посилається на відставку молодого дослідника Anthropic Джейкоба Коксона, який, на його слова, на початку вересня викликав колективну істерію через «AIpocalypse».

На думку Джордана, у цих компаніях багато молодих «справжніми інженерами не є» і приходять з гуманітарних наук або філософії. «Вони — 25-річні простодушні», — каже він і зазначає, що вони «трохи як кафе Парижа 1920-х» збираються обговорювати великі науково-фантастичні ідеї. Поки йдуть з роботи, вони знають, що привернуть увагу й «вже мають опції на акції». Він називає це «великою моралізаторською виставою» — простодушністю й цинізмом.

Суперінтелект і техноеліта

Джордан називає «суперінтелект» терміном із наукової фантастики, а його домінування в дискурсі — «дуже ганебним» для технологічного розвитку, молоді та мислення країн. Він зазначає, що термін накидає техноеліті США Трамп, а еліта із задоволенням грає в це.

Він особливо суворо оцінює нобелівського лауреата Джеффрі Гінтона: «Він ніколи не створював компанії, яка пропонувала б реальним людям реальні послуги». Джордан відкидає аргумент Гінтона ніби мозок уже розшифровано, а копіювання на кремнії дасть експоненційне зростання, і каже, що в цьому немає жодного переконливого кроку. Трохи приязніший він до Йошуа Бенджіо, який «діє й прямо орієнтується на безпеку», зокрема попереджає про вихід з-під контролю груп агентів.

Інженерні провали та бульбашка центрів даних

Джордан вважає злам Hugging Face агентами OpenAI поганою інженерією та порівнює з хімічною інженерією, де вибухи ніколи не дозволяли лише щоб подивитися, наскільки погане йшло б дело. Він каже, що OpenAI «проводила досить дурні експерименти», тоді як песимісти перетворили цей епізод на страшну історію про агентів із самоусвідомленням, яку він знову називає науковою фантастикою.

Про хвилю трильйонних інвестицій у центри даних Джордан каже, що це «величезна бульбашка, але ми взагалі не знаємо, чи вона виправдається». Він стверджує, що LLM уже достатньо можливостей для задач природної мови, а подальший прогрес часто означає додавання спеціалізованих локальних знань, що не вимагає гігантського центру даних, особливо коли в компанії інтегровані моделі з відкритою вагою.

Джерела: The Decoder