Cloudflare מציגה בתצוגה מקדימה את Clairic, מודל חילוץ מסוג System One על Workers AI

מחלקה חדשה של מודלים מסוג System One

Cloudflare הכריזה על תצוגה מקדימה של Clairic, המודל הראשון במחלקה חדשה של מודלי חילוץ בסגנון System One. המודל מתארח ב-Workers AI תחת השם @cf/cloudflare/clairic, ו-Cloudflare אומרת שהיא מתכוונת לשחרר את המודל במשקלים פתוחים בקרוב. ההכרזה באה בעקבות הצגת מודל ההחלטה Jev מסוג System One על ידי TypeSafe לפני חודש, מושג שנלקח מספרו של Daniel Kahneman, Thinking, Fast and Slow, שבו חשיבת System One היא מהירה ומדויקת, ואילו System Two מכסה חשיבה מכוונת כמו LLMs.

חילוץ, חישוב, הערכה ותחזית

בניגוד למודלי החלטה כמו Jev ו-Clef, שמחזירים הסתברויות מול אפשרויות רשומות, Clairic עונה בערכים: מחולצים, מחושבים, מוערכים או חזויים. ערכים מחולצים מוחזרים כמקטעים עם היסטי מיקום תווים וציוני ביטחון. ערכים מחושבים כמו מספרים, תאריכים, משכי זמן ורשימות עוקבים אחר כללי הסוג שלהם. ערכים מוערכים מוחזרים כהתפלגות בתוך גבולות שהגדיר המשתמש, עם חציון ומרווח של 80 אחוז. ערכים חזויים נותנים הערכה אחת לכל צעד קדימה, לכל אחת מרווח משלה. מכיוון שהמודל לא מייצר אסימונים, Cloudflare אומרת שהוא לא יכול ליצור תשובות עם שגיאות סוג או להזות כפי ש-LLM יכול, אם כי הוא עדיין יכול לטעות. הפלט תמיד הוא ערך מהסוג שהוכרז, או null כשהמודל לא מצליח למצוא תשובה.

מעבר אחד, שדות רבים

הבקשה כוללת מצב (הטקסט לקריאה, יחד עם עד ארבע תמונות אופציונליות) ומפה של שדות מוגדרי סוג, לכל אחד מהם סוג והוראות אופציונליות בשפה פשוטה. כל שדה נענה במעבר קדמי אחד, בלי היגיון ובלי אסימוני פלט, כך שהמודל גובה רק עבור קלט ובדרך כלל מגיב תוך פחות משנייה. אין מגבלה על מספר השדות; אם הם לא מתאימים ליד הקלט במעבר אחד, השרת מפצל אותם למעברים מקבילים וממזג את התשובות. Cloudflare הדגימה את Clairic על דואר אלקטרוני של תמיכת לקוחות, קבלה מצולמת, הערכת מחיר בית על בסיס מכירות השוואה ותחזית של מספרי סריקה יומיים בנקודות ביקורת של TSA. לאורך 21 יום של תחזיות TSA, המודל סטה ב-3.3 אחוז בממוצע ו-17 מתוך 21 המספרים בפועל נפלו בתוך מרווח 80 אחוז שלו.

צינור עם מודלי החלטה ו-LLMs

Cloudflare מיקמה מודלי חילוץ כצעד לצד מודלי החלטה ו-LLMs: Clairic הופך קלט גולמי לערכים מוגדרי סוג, Clef מקבל החלטות מהערכים האלה, ו-LLM כותב את התגובה. בצינור הדגמה חיה עבור תביעה בגין מוצר פגום, הושלם התהליך ב-19.3 שניות מול 61.7 שניות לגרסה שכולה LLM, כלומר בערך פי 3.2 מהר יותר, בעלות של $6,032 למיליון תביעות מול $11,740. כל צעד מקבל גם קלט נקי יותר ומוגדר יותר מהצעד שלפניו, וה-LLM רואה רק את ההחלטה ואת העובדות שהוא צריך, לא את הדואר האלקטרוני הגולמי.

מקורות: Cloudflare