Колін Брек: я не хочу читати те, чого ви не писали

Інженер-програміст і блогер Колін Брек, який пише про розподілені системи у власному блозі, опублікував есе під назвою «Я не хочу читати те, чого ви не писали». Його аргумент простий: штучний інтелект допомагає йому писати краще й швидше, але він втомився читати майже все, що написав ШІ.

Підсумок — це не документ

Брек описує повторюваний сценарій: люди створюють щось нове з допомогою ШІ, а потім тим самим інструментом ретроспективно узагальнюють уже зроблене в проєктний документ. Такий документ уже не є пропозицією, покликаною вибудувати консенсус і відшліфувати ідеї через повільне, виважене мислення, — це згенерований машиною підсумок, виснажливий у деталях і позбавлений контексту та перспективи. Автор називає його нечитабельним і нелюдським та зауважує, що його укладачі дратуються, коли колеги не залучаються, — адже те, що вони створили, уже працює.

Тій самій критиці піддаються описи pull request, які, за його словами, машини пишуть для машин: багато деталей про те, що змінилося, але жодного слова про те, чому ця робота важлива, наскільки вона ризикована й термінова та де потрібен відгук рецензента. Та сама проблема в тікетів і підсумків зустрічей, створених ШІ, — це твердження поза контекстом. Він додає особистий приклад: лист на делікатну тему, який явно доопрацьовували з ШІ. У ньому були всі частини, але як ціле він не мав сенсу.

Читачі тікають від текстів із «запахом ШІ»

В есе наведено опитування Сінтії Данлоп про те, як розробники реагують на блоги з «запахом ШІ». Більшість читачів, якщо підозрюють, що статтю написав або доопрацював ШІ, припиняють читання (78%) і надалі оминають автора (71%). Найсильніший результат: 98% віддають перевагу власному тексту автора — з усіма його вадами й особливостями — над бездушною переробкою від ШІ. Брек цитує Браяна Кантрілла, який пише, що користуватися LLM для письма означає «анулювати суспільний договір між автором і читачем».

Де ШІ насправді допоміг

Есе не є відмовою від інструментів. Нещодавно Брек написав академічну статтю про власну базу даних — мовою LaTeX — і широко використовував ШІ, не дозволивши йому написати жодного рядка. Модель отримала стильовий посібник і шаблон журналу, раніше опубліковані статті, вихідний код, а також продакшн-конфігурацію, логи й метрики. Далі він просив перевіряти його абзаци за цими джерелами, дописувати бібліографію, знаходити орфографічні та граматичні помилки й малювати діаграми в TikZ. Модель навіть виявила тонку помилку в нотації, яку пропустили четверо експертів-рецензентів. Єдиною частиною, яку ШІ написав добре, стала анотація — найсухіший і наймеханічніший розділ, який автор залишив без змін.

Два експерименти й висновок

Брек називає дві ініціативи для покращення машинного письма. Перша — ASD-STE100 Simplified Technical English, стандарт авіакосмічної галузі 1980-х із контрольованим словником і суворими правилами граматики, версію якого створили для ШІ-моделей; він планує спробувати його для інструкцій зі встановлення та runbook-ів. Друга — Pangram, детектор, донавчений розпізнавати ШІ-тексти, який використовує Кантрілл: в Oxide усі публічні тексти мають бути підтверджені Pangram як написані людиною. Висновок Брека: усвідомлене письмо стане ціннішим, а ті, хто ніколи не був письменником, вироблятимуть багато тексту за допомогою ШІ. Іноді, пише він, важливіше не знайти слів.