Gartner. open-weight մոդելները կարող են կատարել ագենտային աշխատանքի 90%-ը սահմանային LLM-ի արժեքի մի մասով

Gartner-ի վերլուծաբաններ Mark Petty-ն և Raymond Paquet-ը ասում են, որ շահույթ հետապնդող մոդելներ ստեղծողները եկամուտ կհետապնդեն ագենտային AI աշխատանքային հոսքերի քայլերի միայն մոտ տաս տոկոսից, քանի որ ինը տասներորդը սովորական են, և open-weight մոդելները կարող են դրանք կատարել համարժեք մակարդակով ամենաէժան փակ մոդելի գնի քառորդով։ Լավագույն դեպքերում open-weight մոդելները կարող են կատարել ագենտային աշխատանքի 90 տոկոսը սահմանային LLM-ի ամեն քայլում գործարկելու արժեքի մինչև քսաներորդ մասով։ Վերլուծաբանները նաև նշում են, որ ներկայիս բաց մոդելները կարող են ավելի բազմախոս լինել և ավելի հաճախ կրկնել, ուստի սահմանային մոդելի համեմատ իրական խնայողությունը մոտ հինգից վեց անգամ է։

Արժեք և վերահսկողություն

Վերլուծաբանները անցած շաբաթ գրել են «Open-Weight Models Will Run 90% of Enterprise Agentic Workflow Steps» վերնագրով փաստաթղթում, որ սովորական օպերատիվ աշխատանքային հոսքերը ներառում են հարյուրավոր սովորական կատարումներ, ինչպիսիք են դասակարգումը, գործիքների կանչը, տվյալների փոխանցումը, վավերացումը և համաձայնեցումը։ Նրանք ասում են, որ open-weight մոդելները կարող են կատարել այս սովորական քայլերից հարյուրավորները յուրաքանչյուր մեկի դիմաց, որը պահանջում է սահմանային մակարդակի դատողություն։ Նույն միավորի դեպքում ամենաէժան փակ մոդելի համեմատ open-weight մոդելը արժե քառորդ մասը, իսկ սահմանային մոդելի ամեն քայլում գործարկելու համեմատ՝ մինչև քսաներորդ մասը։

Petty-ն և Paquet-ը պնդում են, որ արժեքը բոնուս է, այլ ոչ թե տեղափոխվելու հիմնական պատճառ։ SaaS ընկերությունում ձեռքբերողը վճարում է նաև աշխատանքային հոսքի պատմության տարիների մեծ մասի համար, և սովորական յուրաքանչյուր քայլի ուղարկումը սահմանային API-ին այդ պատմության մի մասը տեղափոխում է գնորդի պարագծից դուրս։ Open-weight մոդելները պահպանում են վերահսկողությունը, ասում են նրանք։

Ընդունում և դերեր

Վերլուծաբանները առաջարկում են ռազմավարական պլանավորման ենթադրություն, որ մինչև 2030 թվականը ձեռնարկությունների օպերատիվ ագենտային աշխատանքային հոսքի քայլերի 90 տոկոսը կկատարվի open-weight մոդելներով։ Նրանք ակնկալում են, որ ձեռնարկությունները հիմնականում կընդունեն ոլորտային open-weight մոդելներ, որոնք լավ են աշխատում այն սցենարներում, որտեղ փոքր թվով բարձր կայուն քայլեր ամսական միլիոնավոր անգամ են կատարվում։

Մոդելների մեծ մասը արդեն ապրանք է, մինչդեռ հարնեսները՝ ագենտներ գործարկող և կառավարող գործիքները, AI արտադրանքներում արժեքի աղբյուր են։ Հարնեսը աշխատանքը ուղղորդում է առաջադրանքի համար ամենահարմար մոդելին՝ առանց օգտատերերին որևէ ազդեցություն նկատելու, և լավը խնայում է գումար, սահմանում է ուժեղ պաշտպանիչ սահմաններ և կառավարում ագենտների խմբերը։ Ավելի թույլ հարնեսները օգտատերերին ավելի շատ անելիք են թողնում։

Սահմանային և open-weight դերեր

Փաստաթուղթը ենթադրում է, որ սահմանային մոդելները կշարունակեն դեր ունենալ որպես հետազոտության և զարգացման շարժիչ ու փաստացի կապիտալ ծախս են։ Open-weight մոդելները սահմանային մոդելների ծանր աշխատանքից հետո դառնում են օպերատիվ ծախս։

Sources: The Register