OpenAI növbəti modeli üçün token qiymətləndirməsindən imtina etməyi düşündü, deyir Sam Altman

OpenAI növbəti modeli üçün token əsaslı qiymətləndirməni dayandırmağı və hər təqdim olunan sorğu üçün sabit haqq tətbiq etməyi düşündü, lakin müştərilərin mənfi rəyi şirkəti geri addım atmağa vadar etdi, deyir CEO Sam Altman. O, bu ideyanı Stripe prezidenti John Collison ilə Cheeky Pint podkastında müzakirə edib. Altman deyib ki, hesablaşma «AWS kimi» işləyəcəkdi, yəni tokenləri saymaqdansa OpenAI iş başa çatandan sonra hesab göndərəcəkdi.

Sabit haqq qiymətləndirmə ideyası

Altman xatırlayır ki, OpenAI növbəti modelini tamamilə tokenlərlə qiymətləndirməyi dayandırmaq, bunun əvəzinə tərtibatçının sorğu təqdim edib OpenAI-nin qiymət qaytardığı bir sxemə keçmək qərarını «demək olar ki, səhv qərar» kimi qəbul edib. O, hansı modelin nəzərdə tutulduğunu açıqlamır və dəyişikliyin nə vaxt müzakirə olunduğuna dair vaxt çərçivəsi vermir. Hesablaşma «AWS kimi» işləyəcəkdi, o izah edir, yəni token mübadiləsini token-token saymaqdansa «sadəcə bir şey edirsən və biz sənə hesab göndəririk».

Müştərilər niyə qarşı çıxdı

İdeya OpenAI müştərilərin heç bir bölgüsü olmayan qiymət almasına necə yanaşdığını öyrənməyə çalışanda müqavimətlə üzləşdi. «Buna müştəri reaksiyası çox mənfidir», deyir Altman, alıcılar şirkətə bildiriblər: «Mən nə üçün pul ödədiyimi bir şəkildə bilməliyəm». Tərtibatçılar artıq xərcləri aşağı saxlamaq və istifadə artdıqca nə qədər xərcləyəcəklərini qiymətləndirmək üçün giriş və çıxış tokenlərini izləməyə çox vaxt sərf edirlər. Qiymətin necə hesablandığını bilmədən qiymət almaq bunu daha da çətinləşdirərdi.

Görünən tokenlərə üstünlük

Bu etirafı ikinci dəfə nəzərdən keçirməyə dəyər edən odur ki, Altmanın sözlərinə görə, məsləhətləşdiyi insanlar həmin görünüşü saxlamaq üçün daha çox ödəməyə üstünlük verərdilər. O, «bir neçə insana» sual verib ki, eyni çıxış üçün daha yüksək tarifə razı olarlarmı, şərtlə ki, qiymətləndirmə ardıcıl tokenlərlə qalsın, və cavab, onun dediyinə görə, belə olub: «tokenləri şişirib daha çox ödəməyi çox istərdik», çünki «orada real bir şeyin olduğunu bilirəm». Tərtibatçılar tək bir qeyri-şəffaf qiymətə qarşı çıxırlar, o düşünür, çünki uzunmüddətdə «nəsə bir şəkildə aldadılacaqlarına» şübhə edirlər, alıcıların bitmiş iş əvəzinə CPU saatlarına görə ödədikləri zamanlardakı eyni instinkt. Təklif agent quran tərtibatçılar üçün ciddi nəticələrə səbəb ola bilərdi; onların çoxaddımlı iş axınları artıq proqnozlaşdırılması çətin hesablama həcmləri sərf edir və bu günkü token əsaslı modeldə belə xərcləri proqnozlaşdırmağı çətinləşdirir. Altman izah etmir ki, OpenAI hər iş üçün qiymətləri necə müəyyən edəcəkdi və ya müştərilər bir haqqı digəri ilə müqayisə edə biləcəkdilər.

Məhdudiyyətlərə baxmayaraq tokenlər qalır

Mövzu Collison Altmandan tokenlərin AI istifadəsini ölçməyin doğru yolu olub-olmadığını soruşanda ortaya çıxdı. Altman token qiymətləndirməsinin məhdudiyyətlərini etiraf etdi, amma təklif etməyə aydın alternativi yox idi. «Tokenlər bir növ saxta vahiddir», dedi o. «Yəni bəzi mənada realdırlar, amma yaxşı vahid deyillər». O, Collisonun yarıciddi olaraq zəka ekvivalenti token yaratmaq təklifinə etiraz etdi və bunu çip istehsalçılarının çipdə artıq heç bir fiziki ölçməyə uyğun gəlməyən nanometr rəqəmlərini hələ də reklam etməsinə bənzətdi. Altman etiraf edir ki, daha ucuz model ilə daha qabiliyyətli model arasında seçim edərkən tərtibatçılar real əlavə yük çəkirlər, xüsusilə verilmiş tapşırığın nə qədər mühakimə tələb edəcəyini də təxmin etməli olanda. «Bu, mənim fikrimcə, həqiqətən heç bir dəyər qatmayan sadəcə koqnitiv yükdür», dedi o. Bu mübadilə OpenAI-nin token qiymətləndirməsindən asılı olaraq davam etdiyi bir vaxtda baş verir, hətta Altman müəyyən AI səviyyəsinin xərcinin təxminən ildə on dəfə azaldığını iddia edib. Hələlik token qiymətləndirməsi qüvvədə qalır, hətta Altman onun çatışmazlıqlarını etiraf edir və OpenAI daha yaxşı alternativ tapmaqda çətinlik çəkir.

Mənbələr: The New Stack