Математики встановили правила публікації результатів, створених AI

Незалежна група, що працює над питаннями математики та штучного інтелекту (agmai.org), 29 вересня опублікувала рекомендації про те, як AI-лабораторії мають публікувати математичні результати, створені моделями. Документ „Responsible Release of AI-Generated Mathematics“ складено на основі понад 600 відповідей математичної спільноти.

Автори від початку заявляють, що не підтримують практику, коли провідна AI-лабораторія перевіряє складні математичні задачі на публічно недоступних моделях, і закликають їх припинити це.

Чому це важливо

Математичне дослідження спирається на норми, за якими автор роботи сам розуміє свій висновок, сам перевіряє правильність і бере на себе відповідальність за зміст. Тепер AI може подати математичне міркування, яке залишається незрозумілим і неперевіреним для запитувача. На думку групи, розуміння математики людиною є головною цінністю й має залишатися частиною відповідальної наукової публікації.

Два шляхи публікації

Документ розрізняє результат, який людина розуміє, і результат, який поки ніхто не розуміє. У першому випадку діє академічна традиція: препринт, надсилання роботи до журналу на розгляд і семінари, де автор пояснює роботу колегам.

Якщо міркування, згенероване моделлю, не зрозуміле запитувачу, група встановлює технічні норми первинної публікації: лабораторія має знайти в літературі пов’язані ідеї та назвати роботи, де вони вперше з’явилися, навіть якщо модель відкрила їх самостійно. Докази слід переписати в стилі стандартної математичної роботи, з точними теоремами й без нестандартної термінології. Результати потрібно своєчасно розміщувати в наукових репозиторіях, які не контролює жодна AI-лабораторія.

Для кожного результату лабораторія має опублікувати назву моделі, використані промпти, стислий виклад ланцюжка міркувань, витрачений час і орієнтовну вартість обчислень. Якщо одночасно публікується багато результатів, потрібен окремий документ, який перелічує кожен із них і пояснює, скільки задач подібної складності модель не змогла розв’язати та як обиралися задачі.

Фінансування та широкий доступ

На думку групи, лабораторія, яка публікує важливі результати без людського розуміння, зобов’язана взяти на себе відповідальність і надати підтримку, зокрема фінансову, щоб осмислення зрештою відбулося хоча б пізніше. Які проєкти фінансуватимуться, вирішують незалежні некомерційні організації, а не сама група чи лабораторії. Підтримка може бути спрямована на конференцію, присвячену складному доведенню, робочу зустріч, довготривалу робочу групу, фінансування постдоків або написання пояснювальних книг.

Документ попереджає, що дослідження на основі закритих внутрішніх моделей створює ризик дворівневої системи: кілька лабораторій випереджають решту галузі й віддаляють математичну спільноту від її власної дисципліни. Група закликає лабораторії надати глобальній математичній спільноті широкий і рівний доступ до публічно доступних моделей, оскільки математика розвивається через колективну перевірку, синтез понять і спільну інтуїцію.