OpenAI-ը հաջորդ մոդելի համար քննարկել է տոկենային գնագոյացումը հանելը, ասում է Սեմ Ալթմանը

OpenAI-ը քննարկել է իր հաջորդ մոդելի տոկենային գնագոյացումը դադարեցնելը և փոխարենը ներկայացված յուրաքանչյուր հարցման համար հարթ վճար սահմանելը, սակայն բացասական հաճախորդների արձագանքը ստիպել է ընկերությանը նահանջել, ասաց գործադիր տնօրեն Սեմ Ալթմանը: Նա այդ գաղափարը քննարկել է Cheeky Pint պոդկաստում Stripe-ի նախագահ Ջոն Քոլիսոնի հետ: Ալթմանը ասաց, որ վճարումը կաշխատեր «AWS-ի նման», երբ OpenAI-ը աշխատանքից հետո հաշիվ է ուղարկում, այլ ոչ թե տոկենները հաշվում է:

Հարթ վճարով գնագոյացման գաղափարը

Ալթմանը հիշում է, որ OpenAI-ը «գրեթե կատարել է այն, ինչը կլիներ վատ որոշում»՝ ամբողջությամբ դադարեցնելով իր հաջորդ մոդելի գնագոյացումը տոկեններով և անցնելով այն դասավորությանը, որտեղ մշակողը հարցում է տալիս, իսկ OpenAI-ը գին է վերադարձնում: Նա չի նշում տվյալ մոդելը և չի տալիս ժամանակացույց, թե երբ է այդ փոփոխությունը քննարկվել: Վճարումը կաշխատեր «AWS-ի նման», նա բացատրեց, երբ դուք «պարզապես ինչ-որ բան եք անում, և մենք ձեզ հաշիվ ենք ուղարկում», այլ ոչ թե փոխանակումը տոկեն առ տոկեն հաշվում եք:

Ինչու հաճախորդները դիմադրեցին

Գաղափարը դիմադրության հանդիպեց, երբ OpenAI-ը փորձեց պարզել, թե հաճախորդները ինչպես են վերաբերվում առանց բաժանման ստացված գնին: «Այդ գնի վերաբերյալ հաճախորդների արձագանքը այնքան բացասական է», հիշում է Ալթմանը, իսկ գնորդները ընկերությանը ասում էին. «Ինչ-որ կերպ պետք է իմանամ, թե ինչի համար եմ վճարում»: Մշակողներն արդեն բավական ժամանակ են ծախսում մուտքային և ելքային տոկենները հետևելու վրա՝ ծախսերը ցածր պահելու և օգտագործումը աճելու դեպքում իրենց ծախսերը գնահատելու համար: Առանց հաշվարկի իմացության գին ստանալը միայն կդժվարացներ դա:

Նախապատվություն տեսանելի տոկենների նկատմամբ

Այն, ինչը դարձնում է այս խոստովանությունը կրկնակի ուշադրության արժանի, այն է, որ Ալթմանի խոսքով իր խորհրդակցած մարդիկ ավելի շատ վճարելու դեպքում էլ կնախընտրեին պահպանել այդ տեսանելիությունը: Նա հարցը տվել է «մի քանի մարդու», հարցնելով՝ արդյոք նրանք կընդունեին նույն արդյունքի համար ավելի բարձր դրույք, քանի դեռ այն մնում է համապատասխան տոկեններով գնագոյացված, և պատասխանը, նրա խոսքով, այն էր, որ նրանք «շատ ավելի կնախընտրեին ձեզ տոկենները փքել և ավելի շատ վճարել», որովհետև «գիտեմ, որ այնտեղ իսկական բան կա»: Մշակողները դիմադրում են մեկ անթափանց գնին, նա պատճառաբանում է, որովհետև կասկածում են, որ երկարաժամկետ հեռանկարում «ինչ-որ կերպ կխաբվեն», նույն բնազդը, որը ժամանակին գնորդներին ստիպում էր վճարել CPU ժամերի համար, այլ ոչ թե կատարված աշխատանքի համար: Առաջարկը կարող էր զգալի հետևանքներ ունենալ ագենտներ ստեղծող մշակողների համար, որոնց բազմաքայլ աշխատանքային հոսքերը արդեն սպառում են անկանխատեսելի քանակությամբ հաշվարկային ռեսուրսներ և ծախսերը դժվարացնում կանխատեսել նույնիսկ այսօրվա տոկենային մոդելի պայմաններում: Ալթմանը չի բացատրում, թե ինչպես կսահմաներ OpenAI-ը այդ յուրաքանչյուր աշխատանքի գները, կամ արդյոք հաճախորդները կարող էին մեկ վճարը համեմատել մյուսի հետ:

Տոկենները մնում են՝ չնայած սահմանափակումներին

Թեման բարձրացավ, երբ Քոլիսոնը Ալթմանին հարցրեց՝ արդյոք տոկենները ճիշտ ձև են AI օգտագործման չափման համար: Ալթմանը ընդունեց տոկենային գնագոյացման սահմանափակումները, բայց չուներ հստակ այլընտրանք առաջարկելու: «Տոկենները մի տեսակ կեղծ միավոր են», ասաց նա: «Նկատի ունեմ՝ ինչ-որ իմաստով իրական են, բայց լավ միավոր չեն»: Նա մերժեց Քոլիսոնի կիսալուրջ առաջարկը՝ մտածել ինտելեկտին համարժեք տոկեն, համեմատելով այն այն ձևի հետ, որով չիպեր արտադրողները դեռ շուկայավարում են նանոմետրային ցուցանիշները, որոնք այլևս չեն համապատասխանում չիպի վրա որևէ ֆիզիկական չափման: Ալթմանը ընդունում է, որ մշակողները իրական լրացուցիչ բեռ են կրում, երբ ընտրում են ավելի էժան մոդելի և ավելի ունակ մոդելի միջև, հատկապես երբ նրանք պետք է նաև գուշակեն, թե որքան մտածողություն կպահանջի տվյալ առաջադրանքը: «Դա պարզապես ճանաչողական լրացուցիչ բեռ է, որը, կարծում եմ, իրականում որևէ արժեք չի ավելացնում», ասաց նա: Այս զրույցը տեղի է ունենում այն ժամանակ, երբ OpenAI-ը շարունակում է հենվել տոկենային գնագոյացման վրա, նույնիսկ այն դեպքում, երբ Ալթմանը պնդել է, որ AI-ի տվյալ մակարդակի արժեքը տարեկան մոտավորապես տասնապատիկ է նվազում: Այս պահին տոկենային գնագոյացումը մնում է ուժի մեջ, նույնիսկ այն դեպքում, երբ Ալթմանը ընդունում է դրա թերությունները, և OpenAI-ը դժվարանում է գտնել ավելի լավ այլընտրանք:

Աղբյուրներ: The New Stack