Бунт читача: чому текст, написаний LLM, втрачає аудиторію

Інженер Брайан Кантрілл, один з авторів DTrace і співзасновник Oxide Computer, опублікував у своєму блозі есе, у якому стверджує, що читачі перебувають у відкритому бунті проти текстів, написаних великими мовними моделями. За його словами, такий текст легко впізнати, а сама практика руйнує суспільний договір між автором і читачем.

В есе описано, що структурні ознаки LLM-письма настільки дратують, що читач кидає текст посеред речення. Кантрілл посилається на опитування Синтії Данлоп, у якому 668 розробників розповіли, як реагують на згенеровані штучним інтелектом блог-пости.

Що показало опитування

За наведеними автором цифрами, 78% респондентів припиняють читати одразу, щойно помічають LLM, а 71% ідуть далі й надалі уникають цього автора. Він наголошує, що читачі не прагнуть мовної досконалості: 98% віддали перевагу власному, неідеальному тексту автора над текстом, відшліфованим моделлю.

Кантрілл застерігає не сприймати цих респондентів як самовідібрану групу. Активні читачі в соцмережах — саме ті люди, які найчастіше поширюють тексти, що їм сподобалися: ранні адоптери й законодавці смаку в онлайн-прозі.

Pangram і політика Oxide

Ранні спроби детекції, пише він, були ненадійними: моделі-детектори пропускали занадто багато, а пошук поверхових ознак виявився надто широким, щоб бути корисним. На його думку, модель Pangram 3 від Pangram Labs, що вийшла минулого року, стала великим кроком уперед, а Pangram 4, представлена близько місяця тому, — ще одним стрибком завдяки низьким показникам хибнопозитивних і хибнонегативних результатів.

Oxide розширила внутрішній документ RFD 576: тепер публічні тексти, що виходять під іменем компанії, мають отримати від Pangram висновок, що їх написала людина. Кантрілл радить організаціям, які цінують автентичність інституційного голосу, ухвалити подібну політику.

Паралель зі спамом

Автор порівнює LLM-тексти зі спамом в електронній пошті. На початку 2000-х, нагадує він, були реальні побоювання, що спам знищить електронну пошту; до кінця десятиліття фільтрація покращилася настільки, що підірвала економіку спаму, а позначка «спам» стала справді згубною для легального бізнесу.

Він припускає, що та сама динаміка може тепер стосуватися ШІ-текстів: якщо читачі вирішать ігнорувати автора, той сам зруйнує сенс публікації. Порада пряма — використовуйте LLM як редактора, а не як автора, бо промпт це не стаття.