Яким має бути серйозний AI-продукт? Есе Glyph

27 вересня 2026 року розробник і блогер, відомий під іменем Glyph, опублікував есе про те, яким мав би виглядати серйозний продукт на основі LLM. Це критика й перелік запропонованих функцій, а не анонс: автор твердить, що сучасним AI-інструментам бракує саме того, що потрібно для реальної роботи.

Glyph пише, що нинішні «AI»-продукти не ставляться серйозно до власних заяв: на його думку, сам спосіб, у який ці інструменти скомпоновані, створює відчуття не програмного продукту, а чогось розробленого для хибного відчуття безпеки. Ті самі зауваження, додає він, стосуються Ollama та інших інструментів на відкритих моделях.

Перевірка помилок як першорядна функція

Головна претензія автора в тому, що кожен чатбот дрібним шрифтом визнає можливість помилок, але не дає інструментів для їх перевірки. Gemini, Claude і ChatGPT мають такі застереження; у ChatGPT написано «ChatGPT can make mistakes. Check important info.» Glyph запитує, як користувач має зрозуміти, яка інформація важлива, і називає ці попередження юридичною формальністю. Він пропонує ставити прапорець біля кожного твердження та нотатку про виконану перевірку, а також подібний механізм для помічників із коду, щоб перевірку не перекладали мовчки на рецензента.

Те саме стосується цитат: чатботи часто перестають посилатися на джерела посеред списку, а ті, що з'являються, показують лише доменне ім'я. Дослідницька відповідь, на думку автора, має бути списком цитат із датою публікації та іменем автора, де незмінена цитата стоїть на першому плані й більша за будь-який текст, згенерований AI.

Інтерфейси, походження даних і контекст

Інтерфейси природною мовою, зазначає есе, неточні та повторювані, і видача чатботу «інструментів» через сервер MCP цього не виправляє: продукт, орієнтований на конкретне завдання, мав би мати інтерфейс для цього завдання. Glyph також хоче індикатори походження даних, засоби перевірки арифметики та видимість вікна контексту, яке жоден продукт не показує за замовчуванням.

Пісочниця та людський бік

Агенти для коду, пише він, неодноразово знищували дані, редагують тестовий код замість системи, яку тестують, і їх часто «лікують» порадою на кшталт контейнера Docker. Запити на підтвердження, на його думку, перетворюють людину на «автомат автоматичного схвалення». Він хоче ізольовані файлові операції, знімки репозиторію перед кожною дією, скасування авторежимів і пакетний розгляд планів.

Організаціям, які впроваджують AI, потрібні й зміни в людських процесах: ротація змін і запланований відпочинок проти зниження пильності, навмисна практика для уповільнення втрати навичок і ресурси з психічного здоров'я, зокрема видимий користувачеві AI-«дозиметр». Випуск без жодної з цих функцій, підсумовує він, більше схожий на недбале ставлення до ризику, ніж на ощадливий продуктовий менеджмент.