
Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt həddindən artıq olduğunu deyirlər
Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt həddindən artıq və bahalı olduğunu, bir çox testdə dövri xülasələr və məqsədyönlü axtarışların oxşar nəticə verdiyini bildirirlər.
Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt çıxılmaz yol olduğunu deyirlər. Dil modelləri indi bütöv romanları bir dəfəyə emal edə bilirlər, amma komanda bu miqyasın tez-tez həddindən artıq və bahalı olduğunu bildirir. Bir çox testdə dövri xülasələr və məqsədyönlü axtarışlar oxşar nəticə verdi.
Kontekst pəncərəsi nədir
Dil modelinin kontekst pəncərəsi onun iş yaddaşıdır və cavab yaradarkən göz önündə saxladığı hər şeyi əhatə edir.
Kontekst pəncərələri necə böyüyüb
Son bir neçə ildə bu pəncərə sürətlə böyüyüb. GPT-4 2023-cü ilin martında 8.192 tokenla buraxılıb. Bugün GPT 5.6 Sol təxminən bir milyon token emal edir; bu, təxminən 120 dəfə çoxdur və Tolstoyun "Müharibə və sülh" əsəri üçün kifayətdir.
Nvidia böyük pəncərələri niyə çıxılmaz yol adlandırır
Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çıxılmaz yol olduğunu deyirlər. Dil modelləri indi bütöv romanları bir dəfəyə emal edə bilirlər. Nvidia tədqiqat komandası bunun tez-tez həddindən artıq və bahalı olduğunu bildirir.
Oxşar nəticə verən yanaşmalar
Bir çox testdə dövri xülasələr və məqsədyönlü axtarışlar oxşar nəticə verdi.
Mənbələr: The Decoder
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.