ШІ не перевершує математиків у мисленні — він краще запам'ятовує

Коли система штучного інтелекту розв'язує складну математичну задачу, зазвичай вважають, що вона стала розумнішою. Новий аналіз Девіда Піффера стверджує, що частина цього успіху має значно прозаїчнішу причину: робоча пам'ять людини жорстко обмежена, а символічний робочий простір моделі — ні.

Пам'ять як прихована межа математики

Робоча пам'ять утримує й опрацьовує інформацію протягом короткого часу: розв'язуючи рівняння, потрібно пам'ятати, що означає кожна змінна, які операції вже виконано й якою є мета. Її обсяг надзвичайно обмежений — перемножити два тризначні числа в голові важко не через складність операцій, а через потребу зберігати проміжні результати. Папір не робить людину розумнішою, але розширює ефективну робочу пам'ять.

Що показують дослідження

Роль пам'яті в математиці не лише теоретична. Alloway і Passolunghi (2011) з'ясували, що показники робочої пам'яті роблять окремий внесок у математичні результати дітей, а не просто відтворюють зв'язок із загальними вербальними здібностями. У шестирічному лонгітюдному дослідженні Alloway і Alloway (2010) вимірювали дітей у п'ятирічному віці й виявили, що ранні показники робочої пам'яті передбачали подальшу грамотність і математичні навички навіть після врахування IQ; саме пам'ять була сильнішим предиктором. Blankenship та колеги (2015) і метааналіз Friso-van den Bos та колег (2013) повідомили про подібні результати. Автор застерігає від перебільшень: пам'ять та інтелект суттєво перетинаються, і статистичний контроль не розділяє їх бездоганно.

Контекстне вікно як гігантський зошит

Сучасна модель здатна одночасно опрацювати величезну послідовність токенів — умову задачі, визначення, проміжні обчислення та власні попередні міркування. Контекстне вікно не тотожне людській робочій пам'яті; точніше вважати його гігантським зовнішнім зошитом із недосконалим пошуком. Міркування моделі часто виносяться назовні: текст є частиною механізму, яким відбувається мислення, а не лише звітом про завершену думку. Тому автор називає це «розширеною символічною робочою пам'яттю».

фон Нейман чи Ейнштейн

Математика виграє від цього більше за інші сфери, адже майже кожне припущення, визначення, ціль і доведений результат можна записати, і вони залишаються незмінними. В неформальних міркуваннях — скажімо, у соціальному питанні — вирішальна інформація може бути взагалі не спостережена, а поняття нестабільні, тож більший зошит не розв'язує проблеми. Математика також дає надзвичайно сильний зворотний зв'язок: розв'язок можна підставити назад, перевірити чисельно або формальним верифікатором.

Автор доходить висновку, що сучасний ШІ радше нагадує машинно підсилену версію швидкості та широти фон Неймана, ніж глибину Ейнштейна. Фізик Юджин Вігнер, який знав обох, вважав розум фон Неймана швидшим, а розуміння Ейнштейна — глибшим. Наступний поріг, на думку автора, буде пройдено тоді, коли ШІ зможе побачити, що задачу сформульовано неправильно, і сам запропонує принципово кращий спосіб її розуміння.