OpenAI створила незалежну раду математиків для супроводу своїх досліджень

У понеділок OpenAI оголосила про створення незалежної групи математиків, яка консультуватиме компанію та інші AI-лабораторії щодо взаємодії з математичними дослідженнями, зокрема щодо того, як подавати й оприлюднювати нові результати.

Група з дев’яти членів під назвою Advisory Group on Mathematics and Artificial Intelligence (AGMAI) з’явилася після серії гучних математичних результатів OpenAI, яка обернулася для компанії репутаційною кризою. Дослідники в коментарях The Verge назвали панель хорошим першим кроком, але зазначили, що залишається багато базових питань: що саме він робитиме, наскільки впливовим буде і чи справді OpenAI дослухається до його порад.

Хто увійшов до складу

До групи входять науковці зі Стенфорда, Гарварда, Оксфорда й Кембриджа, серед них — лауреати Філдсівської премії та стипендій MacArthur. Прийматиме групу Інститут перспективних досліджень (IAS) у Прінстоні, штат Нью-Джерсі, де свого часу працювали Альберт Ейнштейн, Джон фон Нейман і Роберт Оппенгеймер.

За словами OpenAI, група діятиме незалежно: вона може давати поради, яких компанія не просила, публічно висловлюватися про вплив AI на математику та оприлюднювати свої рекомендації. Члени групи не отримують від OpenAI виплат, а сам склад може змінюватися. «Її цінність залежить від того, чи зможуть члени керуватися власним судженням і заперечувати нам», — заявила компанія.

Питання про відбір і вплив

Досі незрозуміло, наскільки впливовою буде група. Саймон Машаду, дослідник з ETH Zurich, назвав усю історію «оповитою таємницею» і поставив під сумнів принцип відбору дев’яти членів. На сайті групи сказано, що вона «зібралася після того, як OpenAI звернулася до частини її членів із пропозицією створити зовнішню консультативну раду», але математики вирішили заснувати незалежну організацію.

Член групи Мартін Гайрер, професор Imperial College London і EPFL, у вівторок опублікував блог-пост, відповідаючи на те, що назвав «потоком дезінформації». Він наголосив, що не з усіма членами OpenAI контактувала і що організація «справді незалежна від OpenAI та інших frontier-лабораторій».

Франческо Фурньє-Фасіо з Heriot-Watt University вважає, що більше залучення математиків «може бути лише на краще», але панель, за його словами, «виглядає як вежа зі слонової кістки». Кевін Баззард з Imperial College London запитав, навіщо для цього потрібен елітний орган: «Ішлося не про доведення складних теорем, а про краще розуміння нашого предмета».

Що буде далі

Оголошуючи про панель, OpenAI також повідомила, що її невипущена модель — та сама, що розв’язала проблему Нав’є — Стокса з переліку Millennium Prize — «розв’язала понад 100 давніх відкритих проблем у більшості галузей математики». Координація публікації цих результатів — перший пріоритет групи, каже Гайрер. Він додав, що члени були б «дуже наївними, якби вірили, що AI-лабораторії не спробують подати наші слова так, як вигідно їхній PR-машині».