Cloudflare-ը ներկայացնում է Clairic-ը՝ Workers AI-ում System One արդյունահանման նոր մոդել

System One մոդելների նոր դաս

Cloudflare-ը ներկայացրել է Clairic-ի նախադիտման տարբերակը՝ System One ոճի արդյունահանման մոդելների նոր դասի առաջին մոդելը։ Մոդելը հասանելի է Workers AI-ում @cf/cloudflare/clairic անունով, և Cloudflare-ը հայտնում է, որ մտադիր է շուտով հրապարակել այն բաց կշիռներով։ Այս հայտարարությունը հաջորդում է TypeSafe-ի կողմից մեկ ամիս առաջ System One որոշման մոդել Jev-ի ներկայացմանը. գաղափարը վերցված է Դանիել Կահնեմանի «Thinking, Fast and Slow» գրքից, որտեղ System One մտածողությունը արագ և ճշգրիտ է, իսկ System Two-ը ներառում է գիտակցված դատողություն, ինչպես LLM-ները։

Արդյունահանում, հաշվարկ, գնահատում և կանխատեսում

Ի տարբերություն Jev-ի և Clef-ի նման որոշման մոդելների, որոնք նշված տարբերակների համար հավանականություններ են վերադարձնում, Clairic-ը պատասխանում է արժեքներով՝ արդյունահանված, հաշվարկված, գնահատված կամ կանխատեսված։ Արդյունահանված արժեքները վերադարձվում են հատվածների տեսքով՝ նիշերի դիրքերով և վստահության գնահատականներով։ Հաշվարկված արժեքները՝ թվեր, ամսաթվեր, տևողություններ և ցանկեր, հետևում են իրենց տիպի կանոններին։ Գնահատված արժեքները վերադարձվում են բաշխման տեսքով՝ օգտատիրոջ հայտարարած սահմանների ներսում, մեդիանայով և 80 տոկոսանոց միջակայքով։ Կանխատեսված արժեքները տալիս են մեկ գնահատական յուրաքանչյուր հաջորդ քայլի համար՝ յուրաքանչյուրն իր միջակայքով։ Քանի որ մոդելը տոկեններ չի առաջացնում, Cloudflare-ի խոսքով՝ այն չի կարող սխալ տիպի պատասխան տալ կամ հալյուցինացիայի ենթարկվել այնպես, ինչպես կարող է LLM-ը, թեև, իհարկե, կարող է սխալվել։ Ելքը միշտ հայտարարված տիպի արժեք է կամ null, երբ մոդելը չի գտնում պատասխանը։

Մեկ անցում, շատ դաշտեր

Հարցումը բաղկացած է վիճակից (կարդալու տեքստը՝ գումարած մինչև չորս ոչ պարտադիր պատկեր) և տիպավորված դաշտերի քարտեզից. յուրաքանչյուր դաշտ ունի տիպ և ոչ պարտադիր ցուցումներ պարզ լեզվով։ Յուրաքանչյուր դաշտ պատասխանվում է մեկ առաջընթաց անցումով՝ առանց դատողության և առանց ելքային տոկենների, ուստի մոդելը վճարում է միայն մուտքի համար և սովորաբար պատասխանում է մեկ վայրկյանից պակաս ժամանակում։ Դաշտերի քանակը սահմանափակված չէ. եթե դրանք մեկ անցումում չեն տեղավորվում մուտքի կողքին, սերվերը բաժանում է դրանք զուգահեռ անցումների և միավորում պատասխանները։ Cloudflare-ը Clairic-ը ցուցադրել է հաճախորդների աջակցության նամակի, լուսանկարված անդորրագրի, համադրելի վաճառքների հիման վրա տան գնի գնահատման և TSA-ի ստուգման կետերում օրական ստուգումների քանակի կանխատեսման վրա։ TSA-ի 21 օրվա կանխատեսումների ընթացքում մոդելը միջինում սխալվել է 3,3 տոկոսով, և 21 փաստացի թվից 17-ը ընկել են նրա 80 տոկոսանոց միջակայքի ներսում։

Փայփլայն որոշման մոդելների և LLM-ների հետ

Cloudflare-ը արդյունահանման մոդելները դիտարկում է որպես մեկ քայլ որոշման մոդելների և LLM-ների կողքին. Clairic-ը հում մուտքը վերածում է տիպավորված արժեքների, Clef-ը որոշումներ է կայացնում այդ արժեքների հիման վրա, իսկ LLM-ը գրում է պատասխանը։ Վնասված ապրանքի պահանջի կենդանի ցուցադրական փայփլայնում կասկադը ավարտվել է 19,3 վայրկյանում՝ ամբողջությամբ LLM-ի վրա հիմնված տարբերակի 61,7 վայրկյանի դիմաց, այսինքն՝ մոտ 3,2 անգամ ավելի արագ, միլիոն պահանջի հաշվով 6 032 դոլար արժեքով՝ 11 740 դոլարի փոխարեն։ Յուրաքանչյուր քայլ ստանում է նախորդից ավելի մաքուր ու տիպավորված մուտք, իսկ LLM-ը տեսնում է միայն որոշումը և իրեն անհրաժեշտ փաստերը, այլ ոչ թե հում նամակը։

Աղբյուրներ՝ Cloudflare