Cloudflare Clairic-i Önizləyir, Workers AI üzərində System One Ekstraksiya Modeli

System One Modellərinin Yeni Sinfi

Cloudflare Clairic-in önizləməsini elan etdi; bu, System One üslublu ekstraksiya modellərinin yeni sinfində ilk modeldir. Model Workers AI üzərində @cf/cloudflare/clairic kimi əlçatandır və Cloudflare modeli yaxın zamanda açıq çəkilər kimi buraxmaq niyyətində olduğunu bildirir. Elan TypeSafe-ın bir ay əvvəl System One qərar modeli Jev-i təqdim etməsindən sonra gəlir; bu konsepsiya Daniel Kahnemanın "Thinking, Fast and Slow" kitabından götürülüb və orada System One düşüncəsi sürətli və dəqiq, System Two isə LLM-lərə bənzər qəsdli mühakiməni əhatə edir.

Çıxarma, Hesablama, Qiymətləndirmə və Proqnozlaşdırma

Siyahıya alınmış seçimlərə qarşı ehtimallar qaytaran Jev və Clef kimi qərar modellərindən fərqli olaraq, Clairic dəyərlərlə cavab verir: çıxarılmış, hesablanmış, qiymətləndirilmiş və ya proqnozlaşdırılmış. Çıxarılmış dəyərlər simvol ofsetləri və etibar balları ilə spanlar kimi qaytarılır. Rəqəmlər, tarixlər, müddətlər və siyahılar kimi hesablanmış dəyərlər öz tipinin qaydalarına tabe olur. Qiymətləndirilmiş dəyərlər istifadəçinin elan etdiyi sərhədlər daxilində paylanma kimi qaytarılır; median və 80 faizlik interval ilə. Proqnozlaşdırılmış dəyərlər hər bir addım üçün bir qiymət verir, hər birinin öz intervalı olur. Model token yaratmadığı üçün Cloudflare bildirir ki, o, LLM-in edə biləcəyi kimi səhv yazılmış cavablar yarada və ya hallüsinasiya edə bilməz, baxmayaraq ki, yenə də səhv edə bilər. Çıxışlar həmişə elan edilmiş tipin dəyəri olur və ya model cavab tapa bilmədikdə null olur.

Bir Keçid, Çoxlu Sahə

Sorğu vəziyyətdən (oxunacaq mətn, üstəgəl ən çoxu dörd ixtiyari şəkil) və hər biri tip və ixtiyari sadə dil təlimatları olan tipli sahələr xəritəsindən ibarətdir. Hər sahə bir irəli keçiddə, mühakimə və çıxış tokenləri olmadan cavablandırılır, ona görə model yalnız giriş üçün haqq alır və adətən bir saniyədən az müddətdə cavab verir. Sahələrin sayı məhdudiyyətsizdir; əgər onlar bir keçiddə girişin yanında yerləşmirsə, server onları paralel keçidlərə bölür və cavabları birləşdirir. Cloudflare Clairic-i müştəri dəstəyi e-poçtunda, çəkilmiş qəbz üzərində, oxşar satışlara əsaslanan ev qiyməti qiymətləndirməsində və TSA yoxlama nöqtələrinin gündəlik sayının proqnozunda nümayiş etdirdi. 21 günlük TSA proqnozları üzrə model orta hesabla 3,3 faiz səhv etdi və 21 faktiki saydan 17-si onun 80 faizlik intervalına düşdü.

Qərar Modelləri və LLM-lərlə Boru Xətti

Cloudflare ekstraksiya modellərini qərar modelləri və LLM-lərin yanında bir addım kimi təqdim etdi: Clairic xam girişi tipli dəyərlərə çevirir, Clef həmin dəyərlərdən qərar verir və LLM cavabı yazır. Zədələnmiş məhsul iddiası üçün canlı demo boru xəttində kaskad 19,3 saniyəyə başa çatdı; tam LLM versiyası üçün 61,7 saniyə, yəni təxminən 3,2 dəfə sürətli, hər milyon iddia üçün $6,032 qarşı $11,740 xərc ilə. Hər addım əvvəlkilərdən daha təmiz və tipli giriş alır və LLM yalnız qərarı və ehtiyac duyduğu faktları görür, xam e-poçtu görmür.

Mənbələr: Cloudflare