Վերլուծություն. OpenAI-ն պատրաստ է արագ կրկնօրինակել Jev-ը
Arcturus Labs-ի վերլուծության համաձայն՝ OpenAI-ն կարող է արագ կրկնօրինակել TypeSafe-ի Jev մոդելը կամ դասակարգումը ներկառուցել սեփական մոդելներում։ Բաց է մնում մեկ հարց՝ որքանո՞վ է ամուր TypeSafe-ի պաշտպանությունը՝ վերապատրաստման տվյալներն ու գործընթացը։
TypeSafe-ի Jev-ը՝ մոդել, որը գեներացված տեքստի փոխարեն վերադարձնում է չափորոշված որոշումներ, արագ տարածվեց. Vercel-ի տվյալներով՝ այն «AI Gateway-ի պատմության մեջ ամենաարագ ընդունված մոդելն» է։ Arcturus Labs-ի սեպտեմբերի 21-ի վերլուծությունը պնդում է, որ OpenAI-ն պատրաստ է արագ կրկնօրինակել Jev-ը։
LLM-ները դասակարգում են վաղուց
Ելակետը. Jev-ը հիմնված է սովորական մեծ լեզվական մոդելին մոտ բանի վրա — Latent Space-ի փոխանցմամբ՝ վաղ կրկնօրինակներն էլ LLM-ի վրա են։ Այս տրամաբանությամբ Jev-ը մեկ քայլում կարդում է հաջորդ թոքենի հավանականության բաշխումը. «այո/ոչ» հարցը հանգում է true և false թոքենների հարաբերակցությանը, ընտրության հարցը՝ նշված տարբերակներին։
OpenAI-ն այս մոտեցման նեղ տարբերակը կիրառում է tool calling-ից ի վեր. assistant-ի վերնագրից հետո առաջին թոքենը որոշում է՝ կանչե՞լ գործիք, թե՞ ոչ, իսկ հաջորդները ընտրում են, թե որ գործիքը։ Սրանք մասնագետ դասակարգիչներ են, նշում է հեղինակը, իսկ Jev-ինը՝ ընդհանուր։
Խրամատը՝ տվյալներ և RL
Ճարտարապետությունը գրեթե չի պաշտպանում TypeSafe-ին. իրական խրամատը վերապատրաստման տվյալներն ու գործընթացն են։ X-ի քննարկմանը համահիմնադիր Diogo Almeida-ն ասել է, որ ընկերությունն իրեն համարում է «տվյալների հետազոտական լաբորատորիա», իսկ տվյալները՝ «իսկապես ընդհանուր» (մի տեսակ ճանաչողական միջուկ) և «100% սինթետիկ»։
Հեղինակը ենթադրում է, որ նման տվյալները իրավիճակները զուգակցում են հայտնի արդյունքների հետ՝ ընդհանուր չափորոշում սովորեցնելու համար։ Սակայն այս ամենը խրամատ է միայն այն դեպքում, եթե Jev-ն իսկապես ճշգրիտ է. նա արդեն գտել է ոլորտներ, որտեղ հավանականությունները չեն դիմանում ստուգմանը։
OpenAI-ի հավանական հաջորդ քայլը
Ակնհայտ ուղին Jev-ը կրկնօրինակելն է. OpenAI-ն ունի և՛ հմտություն, և՛ սարքավորում, և՛ ֆինանսավորում։ Ավելի հետաքրքիր տարբերակը դասակարգումը սովորական LLM-ի մեջ ներկառուցելն է. մոդելը կարող է <prediction>-ի նման թեգ տեղադրել, իսկ սպասարկման շերտը կկարդա true և false թոքենների logits-երը և արդյունքը կվերադարձնի տեքստով։
Դա մոդելին թույլ կտա ստուգել սեփական ենթադրությունները, նշել վտանգավոր գործիքի կանչը կամ prompt injection-ի փորձը և աշխատանքը բաշխել մեծ ու փոքր մոդելների միջև։
Ի՞նչ է սա նշանակում TypeSafe-ի համար
Եթե խրամատն իրոք դժվար է հաղթահարել, TypeSafe-ը կդիմանա և նույնիսկ կարող է դառնալ OpenAI-ի ձեռքբերման թիրախ՝ պարտվելու փոխարեն. իսկ եթե խրամատը բարակ է, TypeSafe-ի պատուհանը արագ կփակվի։ Almeida-ն Latent Space-ին ասել է. «Եթե մոդելի որակը կարևոր է, մենք դեռ երկար ժամանակ շատ լավ դիրքում կլինենք»։
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։