FUTO משחררת את Swipe: מודלים פתוחים להקלדה בהחלקה

מודלים פתוחים לבעיה סגורה

FUTO, המפתחת של המקלדת הלא-מקוונת FUTO Keyboard לאנדרואיד, פרסמה את Swipe — משפחה של מודלים פתוחים ואלגוריתמים להקלדה בהחלקה. מטרת הפרויקט היא לשבור צוואר בקבוק ותיק: הקלדה איכותית בהחלקה בטלפונים הייתה נעולה במקלדות שפוגעות בפרטיות או בספריות פרטיות ללא רישיון. המודלים מופצים תחת רישיון FUTO Model License, שמתיר שימוש עם ייחוס, וספריית ההסקה היא בקוד פתוח.

המערכת כבר נמצאת בשימוש: היא זמינה במקלדת FUTO Keyboard בגרסה 0.1.29 ואילך. מפתחים שרוצים לבנות מוצרים משלהם יכולים להוריד את המודלים ולהשתמש בספרייה. ההדגמה באתר הפרויקט רצה בצד השרת כדי לשמור על דף קטן; בפעולה אמיתית, לפי FUTO, המודלים רצים על המכשיר ובהשהיה נמוכה בהרבה.

שלושה מודלים וחיפוש אלומה

הארכיטקטורה משלבת שלושה סוגי מודלים. מקודד אינו תלוי בפריסה או בשפה ומטפל בתחזיות כלליות, אך אינו מגיע לדיוק הגבוה ביותר לבדו. מודל ContextLM קטן מאומן לשפה אחת ומסלק מילים חסרות משמעות בהתחשב במילים הקודמות במשפט; הוא זקוק לנתוני טקסט בלבד. מפענח מאומן לשפה ולפריסה מסוימת, לומד את ייחודה של הפריסה ומגיע לדיוק מוביל. עד כה אימנה FUTO מפענח רק לאנגלית בפריסת QWERTY.

תחזיות לבדן אינן מספיקות: כדי להפוך נתיב החלקה למילים נדרש חיפוש אלומה המוגבל למילון. FUTO שחררה את swipe-library — ספרייה בשפת C++ שמבצעת את ההסקה, הפענוח וחיפוש האלומה.

מיליון החלקות והמספרים

נתוני האימון הגיעו מהציבור: באוגוסט 2024 החלה FUTO לאסוף החלקות QWERTY באנגלית באתר swipe.futo.org, שם קיבלו מתנדבים משפטים, בעיקר מוויקיפדיה, והתבקשו להחליק אותם מילה אחר מילה. המאמץ הניב יותר ממיליון החלקות; לאחר סינון רשומות באיכות נמוכה פרסמה FUTO במרץ 2025 מאגר של מיליון החלקות תחת רישיון MIT, והוא זמין ב-HuggingFace. לפי החברה, הנתונים שימשו גם לאימון המודלים וגם להערכת מערכות הקלדה בהחלקה מתחרות.

במערך הבדיקות של FUTO, שלושת המודלים יחד עם רוחב אלומה של 300 מגיעים לשיעור כישלון של כ-4 אחוזים בארבע ההצעות הראשונות; בלי מקרים שמחוץ לאוצר המילים שיעור השגיאה נמוך מאחוז. FUTO מזהירה שמספרים כאלה תלויים מאוד במבחן ושהביצועים בעולם האמיתי עשויים להשתנות, אך אומרת שהיא מאמינה שהמערכת משתווה למקלדות של חברות הטכנולוגיה הגדולות. המודלים קטנים: 635,140 פרמטרים במקודד, 304,155 במפענח ו-1.5 מיליון ב-ContextLM, שמתוכם 1.1 מיליון הם אמבדינגים — 1,364,271 פרמטרים פעילים מתוך 2,494,767. דוח טכני פורסם ב-arXiv, המודלים ב-HuggingFace והספרייה ב-GitLab.