Geri qayıt

Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt həddindən artıq olduğunu deyirlər
SiTech AI Team1 dəq oxu

Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt həddindən artıq olduğunu deyirlər

Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt həddindən artıq və bahalı olduğunu, bir çox testdə dövri xülasələr və məqsədyönlü axtarışların oxşar nəticə verdiyini bildirirlər.

Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çox vaxt çıxılmaz yol olduğunu deyirlər. Dil modelləri indi bütöv romanları bir dəfəyə emal edə bilirlər, amma komanda bu miqyasın tez-tez həddindən artıq və bahalı olduğunu bildirir. Bir çox testdə dövri xülasələr və məqsədyönlü axtarışlar oxşar nəticə verdi.

Kontekst pəncərəsi nədir

Dil modelinin kontekst pəncərəsi onun iş yaddaşıdır və cavab yaradarkən göz önündə saxladığı hər şeyi əhatə edir.

Kontekst pəncərələri necə böyüyüb

Son bir neçə ildə bu pəncərə sürətlə böyüyüb. GPT-4 2023-cü ilin martında 8.192 tokenla buraxılıb. Bugün GPT 5.6 Sol təxminən bir milyon token emal edir; bu, təxminən 120 dəfə çoxdur və Tolstoyun "Müharibə və sülh" əsəri üçün kifayətdir.

Nvidia böyük pəncərələri niyə çıxılmaz yol adlandırır

Nvidia tədqiqatçıları böyük süni intellekt kontekst pəncərələrinin çıxılmaz yol olduğunu deyirlər. Dil modelləri indi bütöv romanları bir dəfəyə emal edə bilirlər. Nvidia tədqiqat komandası bunun tez-tez həddindən artıq və bahalı olduğunu bildirir.

Oxşar nəticə verən yanaşmalar

Bir çox testdə dövri xülasələr və məqsədyönlü axtarışlar oxşar nəticə verdi.

Mənbələr: The Decoder

SiTech

SiTech — AI ilə gücləndirilmiş veb hazırlanması

Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.