Böyük kontekst pəncərələrinə niyə etibar etməməli

Garrit's Notes-da 6 may 2026-cı ildə dərc olunan qeyd iddia edir ki, böyük dil modellərinin kontekst pəncərələrinə yazılan manşet rəqəmləri istifadə edilə bilən iş sahəsini deyil, tutumu təsvir edir. Müəllif pəncərəni iki zonaya bölən videoya istinad edir: modelin kəskin qaldığı "ağıllı zona" və diqqətin düşdüyü, modelin bir neçə dəqiqə əvvəl verilən təlimatları unutmağa başladığı "axmaq zona". Onun təxmininə görə, sərhəd təxminən 100 000 token civarındadır.

Agentlər həddə nahardan əvvəl çatır

Bu fərq ən çox tokenləri sürətlə yandıran kod agentlərinə aiddir. Bir neçə fayl oxunuşu, uzun sazlama sessiyası və geniş test yürüşü sessiyanı nahardan əvvəl 100 min token həddini keçirə bilər. İstehsalçılar isə 200 min, 1 milyon və hətta 2 milyon tokenlıq pəncərələri elə təqdim edir ki, sanki bu rəqəmlər istifadə edilə bilən iş yaddaşını təsvir edir.

Müəllif dərc olunmuş tədqiqatlara, o cümlədən RULER ölçməsinə və Chroma-nın "context rot" (kontekstin çürüməsi) barədə hesabatına istinad edir; onun sözlərinə görə, bunlar effektiv kontekstin elan olunan rəqəmin yalnız bir hissəsi olduğunu və pəncərə dolduqca məhsuldarlığın tədricən pisləşdiyini göstərir. Nəticəsi belədir: böyük rəqəm əsasən marketinq göstəricisidir və onun arxasındakı arxitekturalar diqqət mexanizminin əsas problemini həll etmir.

Sıxlaşdırma kömək edir, amma gec işə düşür

Müasir agentlər bunu kompensasiya etməyə başlayıb. Claude Code kimi alətlər avtomatik sıxlaşdırma edir: sessiya uzandıqda agent tarixçəni yekunlaşdırır və sıfırdan başlayır. Müəllif qeyd edir ki, bu kömək edir, amma sıxlaşdırma vaxt artıq deqradasiya olunmuş zonada xərcləndikdən sonra işə düşür və yekun özü də artıq deqradasiya olunmuş model tərəfindən yazılır. Onun sözlərinə görə, bu heç olmamağından yaxşıdır, amma seçəcəyi vəziyyət deyil.

Onun alternativi yeni sessiya açıb ona özünün yazdığı spesifikasiyanı verməkdir. Bu, hər hansı avtomatik yekundan qat-qat yüksək siqnal ötürülməsidir, çünki sonradan nəyin vacib olduğunu insan qərarlaşdırır. Müəllif bunu agentlərə tətbiq edilmiş "çörək qırıntısı" (breadcrumbs) yanaşması adlandırır: növbəti sessiyanın və ya növbəti insanın təmiz şəkildə götürə biləcəyi bir artefakt qoyub getmək.

Tarixçə yerinə artefaktlar

obra/superpowers və mattpocock/skills kimi layihələr agent iş axınlarının hamısını kiçik, adlandırılmış artefaktlar ətrafında qurur: tələb sənədləri, planlar, bacarıqlar (skills) və alt-agent ötürmələri. Onların hər biri məlumatı canlı sessiyadan çıxarıb növbəti sessiyanın oxuya biləcəyi bir şeyə köçürür və iş kontekstini modelin hələ kəskin olduğu zonada saxlayır. Müəllifin qaydası kontekst pəncərəsinə büdcə kimi yanaşmaqdır: yalnız ilk hissəsinin həqiqətən işlədiyini fərz etmək və qalanını yazıya köçürmək.