უკან დაბრუნება

Nvidia-ს მკვლევრები ამბობენ, რომ AI-ის უზარმაზარი კონტექსტური ფანჯრები ხშირად ზედმეტია
SiTech AI Team1 წთ. საკითხავი

Nvidia-ს მკვლევრები ამბობენ, რომ AI-ის უზარმაზარი კონტექსტური ფანჯრები ხშირად ზედმეტია

Nvidia-ს მკვლევრები ამბობენ, რომ AI-ის უზარმაზარი კონტექსტური ფანჯრები ხშირად ზედმეტი და ძვირია; პერიოდული შეჯამებები და მიზნობრივი ძიებები ბევრ ტესტში დაახლოებით ისევე კარგად იმუშავეს.

Nvidia-ს მკვლევრები ამბობენ, რომ AI-ის უზარმაზარი კონტექსტური ფანჯრები ხშირად ჩიხია. ენის მოდელებს ახლა შეუძლიათ მთელი რომანების ერთდროულად დამუშავება, თუმცა გუნდის თქმით, ეს მასშტაბი ხშირად ზედმეტი და ძვირია. ბევრ ტესტში პერიოდული შეჯამებები და მიზნობრივი ძიებები დაახლოებით ისევე კარგად იმუშავეს.

რა არის კონტექსტური ფანჯარა

ენის მოდელის კონტექსტური ფანჯარა მისი სამუშაო მეხსიერებაა და მოიცავს ყველაფერს, რასაც მოდელი პასუხის შექმნისას თვალწინ ინახავს.

როგორ გაიზარდა კონტექსტური ფანჯრები

ბოლო რამდენიმე წლის განმავლობაში ეს ფანჯარა სწრაფად გაიზარდა. GPT-4 2023 წლის მარტში 8,192 ტოკენით გამოვიდა. დღეს GPT 5.6 Sol დაახლოებით მილიონ ტოკენს ამუშავებს, დაახლოებით 120-ჯერ მეტს, რაც საკმარისია ტოლსტოის რომანისთვის „ომი და მშვიდობა“.

რატომ უწოდებს Nvidia უზარმაზარ ფანჯრებს ჩიხს

Nvidia-ს მკვლევრები ამბობენ, რომ AI-ის უზარმაზარი კონტექსტური ფანჯრები ჩიხია. ენის მოდელებს ახლა შეუძლიათ მთელი რომანების ერთდროულად დამუშავება. Nvidia-ს კვლევითი გუნდის თქმით, ეს ხშირად ზედმეტი და ძვირია.

მიდგომები, რომლებმაც დაახლოებით ისევე კარგად იმუშავეს

ბევრ ტესტში პერიოდული შეჯამებები და მიზნობრივი ძიებები დაახლოებით ისევე კარგად იმუშავეს.

წყაროები: The Decoder

გააზიარე ციფრული გამოცდილება

SiTech

SiTech — AI-გაძლიერებული ვებ დეველოპმენტი

ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.