Семантичні маршрутизатори: скорочення токенів Claude Code у 456 разів

Проблема каталогу навичок

Корпус із 4,556 навичок займає ~228K токенів — не вміщується у 200K контекстне вікно.

Як працює семантичний маршрутизатор

Відокремлює каталог від промпту. ~500 токенів на завдання замість ~228K.

Результати тестування

• Top-1 точність: 62.5%
• Top-5 точність: 87.5%
• Затримка менше секунди
• Зменшення токенів у 456 разів

Чому це важливо

Ефективність AI-агентів залежить від управління контекстом.

📖 Читати повну статтю на HackerNoon