FUTO-მ გამოუშვა Swipe — ღია მოდელები სვაიპით აკრეფისთვის

ღია მოდელები დახურული პრობლემისთვის

FUTO, ოფლაინ Android კლავიატურა FUTO Keyboard-ის შემქმნელი, აქვეყნებს Swipe-ს — ღია მოდელებისა და ალგორითმების ოჯახს სვაიპით აკრეფისთვის. პროექტის მიზანია გადალახოს დიდი ხნის ბარიერი: კარგი სვაიპით აკრეფა ტელეფონებზე ჩაკეტილი იყო კონფიდენციალურობის დამრღვევ კლავიატურებში ან არალიცენზირებულ კერძო ბიბლიოთეკებში. მოდელები FUTO Model License-ით ვრცელდება — გამოყენება ატრიბუციითაა შესაძლებელი — ინფერენსის ბიბლიოთეკა კი ღია კოდითაა ხელმისაწვდომი.

სისტემა უკვე მუშაობს: ის ხელმისაწვდომია FUTO Keyboard-ის 0.1.29 და უფრო ახალ ვერსიებში. დეველოპერებს, რომლებსაც საკუთარი პროდუქტის შექმნა სურთ, შეუძლიათ მოდელების ჩამოტვირთვა და ბიბლიოთეკის გამოყენება. პროექტის საიტზე დემო სერვერის მხარეს მუშაობს, რომ გვერდი მცირე დარჩეს; რეალურ გამოყენებაში, FUTO-ს თქმით, მოდელები მოწყობილობაზე მუშაობს და გაცილებით დაბალი შეყოვნება აქვს.

სამი მოდელი და სხივური ძებნა

არქიტექტურა სამი ტიპის მოდელს აერთიანებს. ენკოდერი არ არის მიბმული განლაგებასა და ენაზე და ზოგად შემთხვევებს ემსახურება, თუმცა მარტო საუკეთესო სიზუსტეს ვერ აღწევს. მცირე ContextLM ერთ ენაზეა გაწვრთნილი და წინა სიტყვების გათვალისწინებით უაზრო სიტყვებს ხსნის; მისთვის მხოლოდ ტექსტური მონაცემებია საჭირო. დეკოდერი კონკრეტულ ენასა და კლავიატურის განლაგებაზეა მორგებული და განლაგების თავისებურებების სწავლით უმაღლეს სიზუსტეს აღწევს. ჯერჯერობით FUTO-ს მხოლოდ QWERTY ინგლისური დეკოდერი აქვს გაწვრთნილი.

მხოლოდ პროგნოზები საკმარისი არ არის: სვაიპის ტრაექტორიის სიტყვებად გადაქცევისთვის საჭიროა ლექსიკონით შეზღუდული სხივური ძებნა. FUTO-მ გამოუშვა swipe-library — C++ ბიბლიოთეკა, რომელიც ინფერენსს, დეკოდირებასა და სხივურ ძებნას ახორციელებს.

მილიონი სვაიპი და რიცხვები

სავარჯიშო მონაცემები საზოგადოებისგან მოვიდა: 2024 წლის აგვისტოში FUTO-მ საიტზე swipe.futo.org დაიწყო QWERTY ინგლისური სვაიპების შეგროვება — მოხალისეებს ძირითადად ვიკიპედიიდან აღებულ წინადადებებს აძლევდნენ და სთხოვდნენ სიტყვა-სიტყვით გადაესვაიპათ. ამან მილიონზე მეტი სვაიპი მოიტანა; დაბალი ხარისხის ჩანაწერების გაფილტვრის შემდეგ, 2025 წლის მარტში FUTO-მ მილიონი სვაიპის მონაცემთა ნაკრები MIT ლიცენზიით გამოაქვეყნა — ის HuggingFace-ზეა ხელმისაწვდომი. კომპანიის თქმით, მონაცემები მოდელების გაწვრთნასაც და სხვა სისტემების შეფასებასაც მოხმარდა.

FUTO-ს ტესტურ ნაკრებზე სამივე მოდელი 300-იანი სხივის სიგანით მუშაობისას ზედა ოთხეულში მოხვედრის მარცხის მაჩვენებელი დაახლოებით 4 პროცენტია; ლექსიკონს გარეთ დარჩენილი შემთხვევების გარეშე შეცდომების მაჩვენებელი 1 პროცენტზე დაბალია. FUTO აფრთხილებს, რომ ასეთი ციფრები ბენჩმარკზეა დამოკიდებული და რეალური შედეგი შეიძლება განსხვავდებოდეს, მაგრამ აცხადებს, რომ სისტემა დიდი ტექნოლოგიური კომპანიების კლავიატურებს უწევს კონკურენციას. მოდელები მცირეა: ენკოდერი — 635 140 პარამეტრი, დეკოდერი — 304 155, ContextLM — 1,5 მილიონი, საიდანაც 1,1 მილიონი ჩანართია; სულ 2 494 767 პარამეტრი, აქედან აქტიური 1 364 271. ტექნიკური მოხსენება arXiv-ზეა, მოდელები — HuggingFace-ზე, ბიბლიოთეკა კი GitLab-ზე.