NVIDIA-ს მკვლევრებმა აგენტის token-ხარჯი harness-ის ოპტიმიზაციით თითქმის ნახევრით შეამცირეს

NVIDIA-ს მკვლევრებმა SoL-Pi ააგეს, სისტემა, რომელიც აგენტის harness-ს, მოდელსა და გარემოს შორის არსებულ მართვის ფენას, ავტომატურად უხვეწს; ამ ფენაზე Codex, Claude Code და OpenClaw მუშაობს. 17 სექტემბერს arXiv-ზე გამოქვეყნებული ნაშრომის მიხედვით, რომელზეც The Decoder-მა დაწერა, ოპტიმიზებული harness იგივე შედეგს ინარჩუნებს და token-ტრაფიკს 44,7-49%-ით, API-ხარჯს კი მესამედით ამცირებს.

მიზანი თავად მოდელი აღარ არის

ეფექტურობაზე მუშაობა ჩვეულებრივ მოდელს ეხება: სწრაფი attention-ბირთვები, კვანტიზაცია ან იაფი მოდელები. SoL-Pi სამაგიეროდ იმას ცვლის, როგორ ხედავს აგენტი მდგომარეობას, ასრულებს მოქმედებებს და ამუშავებს უკუკავშირს. კვლევითი AI ბაზისურ harness-ზე მომუშავე აგენტის კვალს კითხულობს, ცვლილებებს სთავაზობს და მომზადებულ გარემოებში ამოწმებს; კანდიდატი მხოლოდ მაშინ რჩება, თუ წინასწარ განსაზღვრულ ზღვარს არ სცდება და მეტრიკას აუმჯობესებს.

ძიებამ 152 მიმართულება მოიცვა ექვს ოჯახში, მათ შორის კონტექსტი, ინსტრუმენტები, დელეგირება და შეფასება, და 535 გამშვებ გარემოზე გაიარა. ჯამში 3000-ზე მეტი გაშვება და 60 000-ზე მეტი ურთიერთქმედება შედგა.

ოთხი მექანიზმი

შერჩევის შემდეგ ოთხი მექანიზმი გადარჩა. Action Fusion ორ ზედიზედ ნაბიჯს ერთში აერთიანებს და მოდელის მთელ გამოძახებას აუქმებს. Online Context Compact დაგროვილ კონტექსტს დაგეგმვის ყოველი ნაბიჯის შემდეგ ამცირებს, თუკი მნიშვნელოვანი არაფერი იკარგება. ObservationPack გრძელ შედეგებს არქივში ინახავს და შემდეგ სრული ტექსტის ნაცვლად მოკლე შეჯამებას აგზავნის. Evidence-Preserving Reducer შეცდომებისა და ტესტების დიდ ჟურნალებს იაფ მოდელს აძლევს, რომელიც ძირითად დასკვნებს გამოიყვანს.

EdgeBench-ზე ოთხივე მექანიზმის მქონე ვარიანტი 49%-ით ნაკლებ token-ს ხარჯავს და Pi-ს საბაზისო შედეგის 93,7%-ს აღწევს, API-ხარჯი კი Codex-თან 50,0%-ით, Claude Code-თან 54,3%-ით ეცემა. უძლიერესი მექანიზმის მქონე ვარიანტი Pi-ს 5,3%-ით აღემატება. ერთ გაშვებაში ხარჯი 1339 დოლარიდან 894 დოლარამდე დაეცა. ავტორების შეფასებით, საათში ზოგავს 8,75-13,50 დოლარს Codex-თან და Claude Code-თან, 4,36-5,71 დოლარს კი Pi-სთან.

სისტემა GPT-5.6 Sol-ით ააგეს და ცვლილებების გარეშე Opus 5-ზე გადაიტანეს, სადაც მან Pi-ს შედეგის 94,3% და დაახლოებით იგივე დანაზოგი შეინარჩუნა; მექანიზმები უფრო იშვიათად ჩაირთო.

სხვა ბენჩმარკებზე სურათი შერეულია

Terminal-Bench 4-ის 63 CPU-ამოცანიდან SoL-Pi-მ 15 ამოხსნა, Codex-მა და Pi-მ 18-18, თუმცა ხარჯი მეოთხედით ნაკლები იყო. IMO 2026-ის Lean 4-ამოცანებზე სისტემამ ექვსიდან სამი ამოხსნა, 20 SoL-Pi მუშის გუნდმა კი kernel-ოპტიმიზაციის ხარჯი 26,8%-ით შეამცირა.

კონტექსტის შემცირებას თავისი ფასი აქვს: მოკლე პრომპტი prompt-კეშის გამოყენებას ამცირებს. The Decoder-ის ცნობით, ცალკე კვლევამ აჩვენა, რომ შეკუმშვა მომხმარებლის ინსტრუქციების საშუალოდ მხოლოდ 17%-ს ინახავს.