
חוקרים של Nvidia: חלונות הקשר הענקיים של AI הם לרוב מוגזמים
חוקרים של Nvidia טוענים שחלונות הקשר הענקיים של AI הם לרוב מוגזמים ויקרים, ובבדיקות רבות סיכומים תקופתיים וחיפושים ממוקדים עבדו בערך באותה מידה.
חוקרים של Nvidia טוענים שחלונות הקשר הענקיים של AI הם לרוב מבוי סתום. מודלי שפה יכולים כעת לעבד רומנים שלמים בבת אחת, אך הצוות אומר שנפח זה הוא לרוב מוגזם ויקר. בבדיקות רבות, סיכומים תקופתיים וחיפושים ממוקדים עבדו בערך באותה מידה.
מהו חלון הקשר
חלון הקשר של מודל שפה הוא זיכרון העבודה שלו, ומכסה את כל מה שהוא מחזיק בשדה הראייה בעת יצירת תשובה.
כיצד גדלו חלונות הקשר
במהלך השנים האחרונות, חלון זה גדל במהירות. GPT-4 הושק במרץ 2023 עם 8,192 טוקנים. כיום, GPT 5.6 Sol מעבד כמיליון טוקנים, בערך פי 120 יותר, ומספיק עבור "מלחמה ושלום" של טולסטוי.
למה Nvidia מכנה חלונות ענקיים מבוי סתום
חוקרים של Nvidia טוענים שחלונות הקשר הענקיים של AI הם מבוי סתום. מודלי שפה יכולים כעת לעבד רומנים שלמים בבת אחת. צוות מחקר של Nvidia אומר שזה לרוב מוגזם ויקר.
גישות שעבדו בערך באותה מידה
בבדיקות רבות, סיכומים תקופתיים וחיפושים ממוקדים עבדו בערך באותה מידה.
מקורות: The Decoder
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.