FUTO випустила Swipe — відкриті моделі для свайп-набору

Відкриті моделі для закритої проблеми

FUTO, розробник офлайн-клавіатури для Android FUTO Keyboard, опублікувала Swipe — набір відкритих моделей і алгоритмів для свайп-набору. Мета проєкту — зламати давнє обмеження: якісний свайп-набір на телефонах був замкнений у клавіатурах, що втручаються в приватність, або в неліцензованих приватних бібліотеках. Моделі випущено під ліцензією FUTO Model License, яка дозволяє використання із зазначенням авторства, а бібліотека для інференсу має відкритий код.

Система вже працює: вона доступна у FUTO Keyboard версії 0.1.29 і новіших. Розробники, які хочуть будувати власні продукти, можуть завантажити моделі та скористатися бібліотекою. Демонстрація на сайті проєкту виконується на сервері, щоб сторінка залишалася легкою; у реальному використанні, за словами FUTO, моделі працюють на пристрої з набагато меншою затримкою.

Три моделі та променевий пошук

Архітектура поєднує три типи моделей. Енкодер не залежить від розкладки чи мови й відповідає за загальні прогнози, але сам по собі не дає найкращої точності. Невелика модель ContextLM навчена для однієї мови й усуває безглузді слова з огляду на попередні слова в реченні; для її навчання потрібні лише текстові дані. Декодер навчають для конкретної мови та розкладки — він засвоює особливості розкладки й досягає провідної точності. Наразі FUTO навчила декодер лише для англійської QWERTY.

Самих прогнозів недостатньо: щоб перетворити траєкторію свайпу на слова, потрібен променевий пошук, обмежений словником. FUTO випустила swipe-library — бібліотеку на C++, яка виконує інференс, декодування та променевий пошук.

Мільйон свайпів і цифри

Дані для навчання надійшли від людей: у серпні 2024 року FUTO почала збирати англійські свайпи QWERTY на сайті swipe.futo.org, де добровольцям давали речення переважно з Вікіпедії та просили провести їх слово за словом. Це дало понад мільйон свайпів; після фільтрації неякісних записів у березні 2025 року FUTO випустила набір з мільйона свайпів під ліцензією MIT — він доступний на HuggingFace. За словами компанії, дані використали і для навчання моделей, і для оцінювання інших систем свайп-набору.

На тестовому наборі FUTO всі три моделі з шириною променя 300 дають частку невдач у топ-4 близько 4 відсотків; без випадків поза словником рівень помилок нижчий за 1 відсоток. FUTO застерігає, що такі цифри сильно залежать від бенчмарку і реальні результати можуть відрізнятися, але заявляє, що система не поступається клавіатурам великих технологічних компаній. Моделі невеликі: 635 140 параметрів у енкодера, 304 155 у декодера і 1,5 мільйона в ContextLM, з яких 1,1 мільйона — ембединги; разом 2 494 767 параметрів, з них активних 1 364 271. Технічний звіт опубліковано на arXiv, моделі — на HuggingFace, бібліотека — на GitLab.