4B բաց մոդելը հավասարվում է GPT-5.6 Sol-ին որոնման մեջ՝ ~100 անգամ ավելի էժան

Արժեքի խնդիրը գործակալային որոնման մեջ

2026 թվականի օգոստոսի 5-ին Neon-ը հրապարակեց Castform-ի հետ համատեղ նյութ այն մասին, թե ինչպես ամրապնդող ուսուցմամբ (RL) վերապատրաստված 4B բաց մոդելը կարող է որոնման խնդիրներում հավասարվել առաջատար սեփականատիրական մոդելին՝ մեկ հարցումը մոտ 100 անգամ ավելի էժան դարձնելով։

Հոդվածը նկարագրում է, թե ինչպես են գործակալները տեղեկատվություն գտնում։ Մոտ 2022 թվականին ոլորտը ներդրումներ էր անում embedding-որոնման մեջ. pgvector-ը դարձավ Neon-ի ամենաշատ ներբեռնվող ընդլայնումը, իսկ ինժեներները RAG փողրակները ձեռքով էին կառուցում։ 2025-ին որոնումը դարձավ գործակալային. մոդելները մեկ հարցման փոխարեն ցիկլով պլանավորում և փնտրում են։ Ցիկլի յուրաքանչյուր պտույտ առաջատար մոդելի ևս մեկ կանչ է, իսկ gpt-5.6-sol-ով տիպիկ բազմաքայլ հարցումը տևում է ավելի քան 10 վայրկյան և արժե մոտ $0.03 ամբողջությամբ։

Ինչպես են բաց մոդելին սովորեցնում փնտրել

Փոքր բաց մոդելները մոտ 100 անգամ էժան են, սակայն «արկղից հանած» վիճակում զիջում են փակ API մոդելներին։ RL վերապատրաստումը լրացնում է այդ բացը։ Castform-ի նպատակն է հնարավոր դարձնել մշակողների համար մոդելների վերապատրաստումն առանց մեքենայական ուսուցման և GPU-ի ներքին մանրամասների հետ գործ ունենալու. համահիմնադիր Ying Hang Seah-ն դա նկարագրում է որպես «նույնքան մատչելի, որքան prompt engineering-ը»՝ նշելով, որ թիմերի լավագույն ուսուցողական տվյալներն արդեն իսկ իրենց շտեմարաններում են։

Փողրակը ամբողջությամբ աշխատում է Neon-ի վրա. հում փաստաթղթերը՝ Postgres-ում, սինթետիկ մարզման խնդիրները գրվում են lakebase_text և lakebase_vector ընդլայնումներով, յուրաքանչյուր rollout-ի որոնման կանչն անցնում է Lakebase Search-ով, իսկ արտադրական ինֆերենսը օգտագործում է նույն որոնման գործիքը։ Մրցանակի ֆունկցիան գնահատում է երեք բան՝ ճիշտ աղբյուրի գտնելը, ճիշտ հատվածի մեջբերումը և ճիշտ պատասխանին հասնելը։

Ենթակառուցվածք պայթյունային բեռերի համար

Մարզումը ստեղծում է խիստ անհավասար բեռ. հազարավոր զուգահեռ rollout-ներ, որոնցից յուրաքանչյուրը տասնյակ որոնման կանչեր է անում։ Neon-ի դինամիկ մասշտաբավորումը կլանում է այդ պիկերը՝ առանց ամբողջ օրը առավելագույն հզորություն պահելու անհրաժեշտության։ Հեղինակների կարծիքով այս ենթակառուցվածքն առավել կարևոր է դառնում, երբ գործակալները սկսում են փոխել տվյալները. branching-ը յուրաքանչյուր rollout-ին տալիս է մեկուսացված շտեմարանի վիճակ, իսկ time-travel հարցումները թույլ են տալիս վերականգնել, թե ինչ էր տեսնում գործակալը։

Գլխավոր եզրակացությունը. կոնկրետ խնդիրներում, ինչպիսին որոնումն է, վերապատրաստված բաց մոդելը կարող է հավասարվել առաջատար մոդելներին և նույնիսկ գերազանցել նրանց՝ մի կարգ ցածր արժեքով։ Այսինքն՝ գործակալային որոնումն այլևս պարտավոր չէ աշխատել ամենաթանկ մոդելի վրա։

📖 Աղբյուր