OpenAI-მ TypeSafe-ის Jev-ს Luna-ზე აგებული Decisions API-ით უპასუხა

OpenAI-მ ყოველწლიურ DevDay კონფერენციაზე სამშაბათს Decisions API წარადგინა. ეს კომპანიის პასუხია გადაწყვეტილების მოდელებზე, რომლებიც TypeSafe-ის Jev-ის წყალობით ბოლო თვეებში პოპულარული გახდა. ახალი API Luna მოდელზეა აგებული, რომელიც OpenAI-ის ამჟამინდელ ხაზში ყველაზე პატარა და იაფია.

რას აკეთებს Decisions API

ჩატის მოდელებისგან განსხვავებით, გადაწყვეტილების მოდელი ტექსტს არ წერს. ის წინასწარ განსაზღვრული პასუხებიდან ერთს აბრუნებს და მას ნდობის ქულას ამატებს. დეველოპერი მოდელს კითხვას, შესაძლო პასუხებსა და კონტექსტს აწვდის, სანაცვლოდ კი ისეთ ქულას იღებს, რომლის გამოყენებაც აპლიკაციის ლოგიკაში პირდაპირ შეიძლება.

OpenAI-ის თქმით, მისი მოდელი შედეგს 150 მილიწამში აბრუნებს, მაშინ როცა იმავე დავალებას GPT-6 Luna 1,6 წამს ანდომებს. სწორედ ეს სისწრაფე და უფრო რეალური ნდობის ქულები ხდის ასეთ მოდელებს გამოსადეგს კონტენტის კლასიფიკაციისთვის, მოთხოვნების გადამისამართებისთვის ან იმისთვის, რომ აგენტმა შეზღუდული ვარიანტებიდან შემდეგი მოქმედება შეარჩიოს.

პრომპტსა და გაწვრთნილ კლასიფიკატორს შორის

დღეს გუნდების უმეტესობა ამ ამოცანას ჩვეულებრივი ჩატის მოდელითა და ფრთხილად შედგენილი პრომპტით წყვეტს: მოდელს სთხოვს, სიიდან ერთი ვარიანტი აირჩიოს, შემდეგ კი ტოკენების ალბათობებს კითხულობს, რომ ნდობის ქულა მიახლოებით განსაზღვროს.

ალტერნატივა პატარა კლასიფიკატორის გაწვრთნაა. ის სწრაფი და იაფია, მაგრამ საჭიროებს მონიშნულ მონაცემებს და ხელახლა გაწვრთნას ყოველ ჯერზე, როცა კატეგორიების ნაკრები იცვლება. გადაწყვეტილების მოდელი ამ ორ ვარიანტს შორის დგას: ახალი კატეგორიები პრომპტში გადაეცემა, პასუხად კი დეველოპერისთვის გამოსადეგი ქულა ბრუნდება.

OpenAI-ისთვის ეს სრულიად ახალი იდეა არ არის: კომპანიის Moderation API დიდი ხანია ტექსტის ნაცვლად კატეგორიების მიხედვით ქულებს აბრუნებს, თუმცა იქ კატეგორიებს OpenAI ადგენს და არა დეველოპერი.

შეზღუდული წვდომა და ღია კითხვები

ამჟამად Decisions API მხოლოდ შეზღუდული წვდომით არის ხელმისაწვდომი, სრული გამოშვება კი უახლოეს დღეებში იგეგმება. OpenAI-ის წარმომადგენელმა The New Stack-ს უთხრა, რომ დეტალებს „სრული გამოშვებისას“ გაასაჯაროებს.

უცნობია, რა დაჯდება ერთი გამოძახება, რამდენ შესაძლო პასუხს იტევს ერთი მოთხოვნა და შეძლებენ თუ არა დეველოპერები მოდელის საკუთარ მონაცემებზე მორგებას. სწორედ ეს სამი პასუხი განსაზღვრავს, გახდება თუ არა Decisions API აგენტების ფრეიმვორკების სტანდარტული ნაწილი, თუ ჩატის მოდელების გვერდით ვიწრო ინსტრუმენტად დარჩება.