Чому один автор радить майже ніколи не доручати письмо ШІ

В есеї, опублікованому в серпні, Еріх Ґруневальд твердить, що люди майже ніколи не повинні доручати ШІ писати щось змістовне — допис у блозі, дослідницький звіт, меморандум, продуманий лист чи роман. Його аргумент спирається на три тези: процес письма є частиною процесу мислення, проза ШІ є розпливчастою й хибною так, що помітити помилки важко, а видавання тексту ШІ за власний вводить читача в оману.

Письмо — це місце, де відбувається мислення

Ґруневальд не проти ШІ загалом. Він вважає розумним використовувати його для транскрибування аудіо, аналізу даних, пошуку інформації, брейнстормінгу та відгуків на чернетки, і приймає редагування, якщо людина свідомо ухвалює або відкидає кожну зміну. Заперечує він проти того, щоб модель створювала сам текст — навіть коли автор дає детальні пункти чи продиктовані думки й потім редагує результат.

Перша причина — мислення відбувається саме під час письма. Він цитує спостереження Пола Ґрема: перетворення ідей на слова є суворим випробуванням, і половина ідей, що потрапляють до есею, виникає в автора під час його написання. Письменниця Клара Кольє в подкасті Патріка Маккензі описує, як кожен етап роботи змінює її думку, і додає: модель, якій дають готовий план, не зупиниться, щоб замислитися, чи не хибний сам план. Підсумок Маккензі: робиш машину, яка пише, а мислення з'являється як побічний ефект.

Розпливчасто, тонко хибно й дуже переконливо

Другий аргумент стосується текстури машинної прози. Коли модель попросили написати абзац про контрабанду ШІ-чипів, результат був «не жахливий», але Ґруневальд перелічує дрібні невдачі: опис чипів як «компактних», тоді як зазвичай перевозять сервери; оцінку масштабу, нижню межу якої автор вважає майже напевно хибною; і фінальну фразу, яку він називає неінформативними оплесками. Кожне з цих рішень було б іншим — і точнішим — у людини, яка знає предмет.

Він цитує філософа Еріка Швіцґебеля, який пише, що вибір слів експерта відображає нюанси, яких той може й не усвідомлювати. Ґруневальд додає асиметрію, що посилює проблему: коли модель чогось не знає, вона рідко про це каже, а натомість пише щось достатньо розпливчасте, щоб бути правдою, або достатньо переконливе, щоб пройти.

Частка читача

Третій аргумент — про довіру. Читач очікує, що текст відображає думку автора, і Ґруневальд трактує це як неявний договір: читач дає увагу, автор повертає щось цінне. Немаркований текст ШІ цей договір ламає, і, за його словами, щойно виникає підозра, довіра одразу падає. Він визнає, що чітко позначений результат ШІ може бути прийнятним і що переклад власного тексту — розумне використання, бажано з відкритим зазначенням. Робота з ШІ над текстами з високими ставками, додає він, прискорює справу переважно за рахунок якості.