Інженер Anthropic пояснив, чому Claude пише гірше, попри те що модель стала розумнішою

Моделі Anthropic стали значно кращими в математиці, програмуванні та багатокрокових міркуваннях. Якість їхніх текстів за цим темпом не встигла, а подекуди й погіршилася. Джексон Керніон, дослідник Anthropic, який працює над донавчанням Claude, запропонував пояснення цього розриву в серії дописів у X.

Оптимізація під код — коштом живої мови

За словами Керніона, Opus 4.6 був останньою моделлю Anthropic, яку він справді назвав би хорошою «моделлю для письма». Частина причини передбачувана: новіші випуски оптимізували під математику й код. Але є й другий, менш очевидний чинник — моделі також тренували писати технічні пояснення не для людей, а для інших AI-моделей.

Модель «адаптували до психології LLM», каже Керніон, і вона навчилася писати для машин. Саме звідси, на його думку, беруться ті дивні формулювання, які користувачі звуть «Claudeish»: текст виглядає точним і насиченим інформацією, але людині його важко читати.

Аудиторія — мовні моделі

Керніон порівнює цей ефект із людьми, які спілкуються переважно в межах однієї вузької групи: у них виробляється стиль, що добре працює всередині, але стороннім його важко зрозуміти. LLM мають значно більшу робочу пам'ять, ніж люди, і вловлюють деталі на набагато тоншому рівні, тому під час тренування формується стиль, зручний для інших моделей, а для людського читача він обертається «надто щільними потоками інформації».

Причина — у структурі винагород

На думку Керніона, корінь проблеми — у структурі винагород у reinforcement learning. Частина винагород оцінює, наскільки добре відповідь зрозуміла іншій AI-моделі, інші — наскільки добре її розуміє людина. Інтенсивне тренування на математиці й коді зміщує баланс до першого типу, і що більше модель навчають у цьому напрямі, то активніше розробники мають протидіяти — винагороджуючи прості пояснення, які людина справді може прослідкувати.

В Opus 5.5 Anthropic знайшла кращий баланс, каже Керніон, додаючи, що від часів Opus 4.6 не був так задоволений текстами жодної моделі. Він не стверджує, що нова модель перевершує старшу. «Це складна задача, і ми продовжимо працювати над покращеннями», — пише він.