OpenAI-მ ახალი მოდელისთვის ტოკენებზე დაფუძნებული ფასების განსაზღვრის მიტოვება განიხილა, ამბობს სემ ალტმანი

OpenAI-მ განიხილა, რომ ახალი მოდელისთვის ტოკენებზე დაფუძნებული ფასების განსაზღვრა შეეწყვიტა და ყოველ გაგზავნილ მოთხოვნაზე ფიქსირებული ფასი აეღო, მაგრამ მომხმარებლების ნეგატიურმა გამოხმაურებამ კომპანია უკან დააბრუნა, თქვა CEO-მ სემ ალტმანმა. მან ამაზე Cheeky Pint-ის პოდკასტში Stripe-ის პრეზიდენტ ჯონ კოლისონთან ისაუბრა. ალტმანის თქმით, ანგარიშსწორება იმუშავებდა „AWS-ის მსგავსად“: OpenAI-მ სამუშაოს შემდეგ გამოგზავნიდა ინვოისს და ტოკენებს არ ათვლიდა.

ფიქსირებული ფასის იდეა

ალტმანი იხსენებს, რომ OpenAI „თითქმის მიიღო ცუდი გადაწყვეტილება“ და შეეწყვიტა ახალი მოდელის ფასის ტოკენებით განსაზღვრა, გადასულიყო კი სქემაზე, სადაც დეველოპერი მოთხოვნას აწვდის, OpenAI-მ კი სანაცვლოდ ფასს აბრუნებს. მან არ დაასახელა მოდელი და არც ის თქვა, როდის განიხილებოდა ცვლილება. ანგარიშსწორება იმუშავებდა „AWS-ის მსგავსად“, განმარტა მან: „უბრალოდ რაღაცას აკეთებ და ჩვენ გიგზავნით ინვოისს“, ნაცვლად ტოკენ-ტოკენ აღრიცხვისა.

რატომ შეეწინააღმდეგნენ მომხმარებლები

იდეა წინააღმდეგობას წააწყდა, როცა OpenAI ცდილობდა გაეგო, როგორ აღიქვამდნენ მომხმარებლები ფასს დაშლის გარეშე. „მომხმარებლების გამოხმაურება ძალიან ნეგატიურია“, იხსენებს ალტმანი; მყიდველები ეუბნებოდნენ: „რაღაცნაირად უნდა ვიცოდე, რისთვის ვიხდი.“ დეველოპერები უკვე დიდ დროს ხარჯავენ შემავალი და გამომავალი ტოკენების თვალყურის დევნებაზე, რათა ხარჯები შეამცირონ და გამოყენების ზრდისას ხარჯები წინასწარ შეაფასონ. ფასის მიღება იმის ცოდნის გარეშე, თუ როგორ დაითვალეს, ამას მხოლოდ გაართულებდა.

ხილვადობის უპირატესობა

აღიარება ყურადღებას იმსახურებს, რადგან, ალტმანის თქმით, ის ადამიანები, რომლებსაც ის ეკითხებოდა, ურჩევნიათ მეტი გადაიხადონ და ხილვადობა შეინარჩუნონ. მან „რამდენიმე ადამიანს“ ჰკითხა, მიიღებდნენ თუ არა უფრო მაღალ ფასს იმავე შედეგისთვის, თუ ფასი თანმიმდევრულ ტოკენებში დარჩებოდა. პასუხი, მისი თქმით, იყო: „ბევრად უფრო მირჩევნია, ტოკენები გაზარდოთ და მეტი გადავიხადო“, რადგან „ვიცი, რომ იქ რაღაც რეალურია“. დეველოპერები ეწინააღმდეგებიან გაუმჭვირვალე ფასს, რადგან ეჭვობენ, რომ გრძელვადიან პერსპექტივაში „მაინც როგორღაც მოგვატყუებენ“, იგივე ინსტინქტი, რის გამოც მყიდველები ერთ დროს CPU-ის საათებს იხდიდნენ და არა დასრულებულ სამუშაოს. წინადადებას მნიშვნელოვანი შედეგები შეიძლება ჰქონოდა აგენტების შემქმნელი დეველოპერებისთვის, რომელთა მრავალსაფეხურიანი სამუშაო ნაკადები უკვე მოიხმარენ გაუთვალისწინებელი რაოდენობის რესურსს და დღევანდელი ტოკენური მოდელის პირობებშიც კი ართულებენ ხარჯების პროგნოზირებას. ალტმანი არ განმარტავს, როგორ დააწესებდა OpenAI ფასებს თითო სამუშაოზე ან შეეძლოთ თუ არა მომხმარებლებს გადასახადების შედარება.

ტოკენები მაინც რჩება, მიუხედავად შეზღუდვებისა

საკითხი წამოიჭრა, როცა კოლისონმა ალტმანს ჰკითხა, იყო თუ არა ტოკენები AI-ს გამოყენების გაზომვის სწორი გზა. ალტმანმა ტოკენებზე დაფუძნებული ფასების განსაზღვრის შეზღუდვები აღიარა, მაგრამ მკაფიო ალტერნატივა ვერ შესთავაზა. „ტოკენები ერთგვარი ფიქტიური ერთეულია“, თქვა მან. „გარკვეული გაგებით რეალურია, მაგრამ კარგი ერთეული არ არის.“ მან არ მოიწონა კოლისონის ნახევრად სერიოზული წინადადება ინტელექტის ექვივალენტური ტოკენის შემოღებაზე და შეადარა იმას, თუ როგორ ყიდიან ჩიპების მწარმოებლები დღემდე ნანომეტრებით, რომლებიც ჩიპზე უკვე აღარ შეესაბამებიან ფიზიკურ გაზომვას. ალტმანი აღიარებს, რომ დეველოპერებს რეალური დამატებითი ტვირთი აქვთ იაფ და უფრო ძლიერ მოდელს შორის არჩევისას, მით უმეტეს მაშინ, როცა კონკრეტული ამოცანისთვის საჭირო მსჯელობის მოცულობაც უნდა გამოიცნონ. „ეს უბრალოდ შემეცნებითი ტვირთია, რომელიც, ჩემი აზრით, რეალურ ღირებულებას არ ქმნის“, თქვა მან. OpenAI კვლავ ტოკენებზე დაფუძნებულ ფასების განსაზღვრას ეყრდნობა, თუმცა ალტმანი ამბობს, რომ AI-ს მოცემული დონის ღირებულება წელიწადში დაახლოებით ათჯერ ეცემა. ტოკენებზე დაფუძნებული ფასების განსაზღვრა ჯერჯერობით მოქმედებს, მიუხედავად აღიარებული ნაკლოვანებებისა და უკეთესი ალტერნატივის ძიებისა.

წყაროები: The New Stack