Есе Pydantic: людина в циклі втомилася

Втома від нагляду

Лора Саммерс із Pydantic опублікувала есе «The Human-in-the-Loop is Tired», у якому доводить, що програмування з великими мовними моделями водночас справді корисне і справді дестабілізує, а ігнорування другої половини цієї тези закінчиться вигоранням розробників. Pydantic створює інструменти валідації даних і фреймворк для AI-агентів.

У центрі тексту — те, що Саммерс називає втомою від нагляду. Її колега Douwe, який підтримує фреймворк Pydantic AI, розповідав, що прокидається від приблизно тридцяти pull request щодня — кожен уночі відкрив чийсь AI — і мусить миттєво ухвалювати рішення щодо кожного. Спокуса перекласти сам огляд на модель була великою, але, за його словами, «у такому разі що я тут роблю?».

Саммерс згадує, як витратила майже два повні дні на написання плану для моделі — уточнюючи й переформульовуючи, — а модель усе одно перенесла React-хук не в той файл або вигадала компоненти, яких не існує. Це помилки не спроможності, а зв'язності: модель здатна видавати правдоподібний код, але не завжди утримує цілісний намір протягом складної зміни.

Проблема функції винагороди

Механізм, що стоїть за цим, вона називає проблемою людської функції винагороди. У машинному навчанні функція винагороди каже агенту, що таке добре; писати код вручну ніколи не було легко, але в цьому було багато маленьких винагород — спостерігати за компіляцією, відчувати контроль. Робота з LLM автоматизує значну частину цього й замінює оглядом та наглядом: приємна частина зменшується, виснажлива — зростає.

Інтенсивність також зростає. Саммерс посилається на дослідження Berkeley Haas про те, що AI не зменшує роботу, а підсилює її, і згадує, як писала промпти майже до другої години ночі, бо план здавався майже готовим. Жарт колеги — відкрий одночасно п'ять сесій Claude — добре описує момент: кількість справ, які можна почати, різко зросла, а кількість тих, які можна осмислено завершити, не змінилася, бо для цього досі потрібен один мозок.

Прецедент і те, що залишається

Саммерс порівнює цю мить із переходом 2009 року від фіксованих макетів до адаптивного дизайну. Дизайнерам не подобалося втрачати контроль на рівні пікселів, але ремесло не загинуло: відчуття пропорції, ієрархія, системне мислення та проєктування для невизначеності стали важливішими. Сьогоднішня зміна швидша, але закономірність та сама.

Коли правдоподібний код дешевий, вирізняють смак, нюанс, зрілі архітектурні погляди та нестандартні рішення, здобуті справжнім досвідом. Нові практики теж з'являються — наприклад, «pre-mortem», коли нова сесія припускає, що план катастрофічно провалився, і шукає причини. Висновок стриманий: вузьким місцем ніколи не був код, а людська увага та інженерне судження. Люди досі в циклі — просто втомлені.