OpenAI GPT-6 üçün prompt keşləməsini təkmilləşdirib

OpenAI GPT-6 model ailəsi üçün təkmilləşdirilmiş prompt keşləmə sisteminin təfərrüatlarını yayımlayıb. Şirkətin sözlərinə görə, sistem standart olaraq keş uyğunluq dərəcəsini artırır və tərtibatçılara keşlənmiş giriş tokenlarında 90 faizə qədər endirim verir. Yeniləmə 22 sentyabr 2026-cı ildə dərc olunub.

Keşləmə kod bazalarının yenidən qurulmasından tədqiqat sənədlərinin hazırlanmasına qədər mürəkkəb işlər üzərində saatlarla çalışan agentlər üçün xüsusilə vacibdir. Belə tətbiqlər eyni təlimatları, alət təyinatlarını və əvvəlki konteksti daşıyan uzun API sorğu silsilələri göndərir, ona görə hesablamaların təkrar istifadəsi həm gecikməni, həm də xərci azaldır.

Standart olaraq daha yüksək uyğunluq

OpenAI-nin bildirdiyinə görə, GPT-6 ilə uyğun ümumi prefikslər 30 dəqiqəlik pəncərə daxilində təkrar istifadə edildikdə endirim alır. Sistem avtomatik işləyir, lakin şirkət komandalara əslində nəyin təkrar istifadə olunduğunu ölçməyə imkan verən alətlər də əlavə edib.

Yeni Prompt Caching Dashboard tətbiqin girişinin nə qədərinin keşdən gəldiyini göstərir, uyğunluq dərəcəsini zamanla izləyir və keşlənmiş tokenları keşlənməmişlərlə müqayisə edir. Gözlənilməz buraxılmada diaqnostika aləti sorğunu son cavabla tutuşdurur və səbəbi — dəyişmiş model, alət dəsti, ayar və ya giriş — göstərir, təsirlənmiş tokenlərin sayını təxmin edir. OpenAI-nin nümunəsində tools_changed səbəbindən 5.629 təkrar istifadə edilə bilən token istifadəsiz qalıb.

Tərtibatçılar üçün nəzarətlər

Açıq keş nöqtələri hansı prefikslərin təkrar istifadə olunacağını seçməyə imkan verir; OpenAI müvafiq təlimatı da yeniləyib. GPT-6 modellərində düşünmə səyi indi cavablar arasında configuration_update əlavə etməklə dəyişdirilə bilər — sorğu səviyyəsindəki ayar dəyişməz qaldığı üçün keş pozulmur.

OpenAI həmçinin alət təyinatlarının, sxemlərin və sıranın sabit saxlanmasını tövsiyə edir: təyinatları silmək əvəzinə yalnız lazımi alətləri allowed_tools ilə açın və ya tool_choice dəyərini none edin. Yeni təlimatlar kontekstin sonuna yaxın developer mesajları kimi əlavə edilməli, məlum kontekst isə əvvəlcədən qızdırıla bilər.

Müştərilər nə bildirir

GitHub Copilot-un məhsul direktoru Mario Rodriqez keş işinin milyardlarla sorğuda sıfırdan emal tələb edən prompt tokenlarının payını 50 faizdən çox azaltdığını bildirib. Strawberry Browser-ın texniki direktoru Arian Hanifi 20 faiz aşağı xərc qeyd edib; açıq nöqtələr fon tapşırıqları üçün söhbətləri budaqlamağı sərfəli edib. Manus bir həftədən az müddətdə 85 faizdən davamlı 90 faizdən yuxarıya çatıb; Wordsmith isə 83 faizdən 91 faizə yüksələrək keş yazılarını üçdə iki, inferens xərclərini 36 faiz azaldıb.