
Nvidia Araştırmacıları: Büyük Yapay Zeka Bağlam Pencereleri Genellikle Gereksiz
Nvidia araştırmacıları, büyük yapay zeka bağlam pencerelerinin genellikle gereksiz ve maliyetli olduğunu savunuyor; birçok testte periyodik özetler ve hedefli aramalar benzer düzeyde işe yaradı.
Nvidia araştırmacıları, büyük yapay zeka bağlam pencerelerinin genellikle bir çıkmaz olduğunu savunuyor. Dil modelleri artık tüm romanları tek seferde işleyebiliyor, ancak ekibe göre bu ölçek çoğu zaman gereksiz ve maliyetli. Birçok testte periyodik özetler ve hedefli aramalar benzer düzeyde işe yaradı.
Bağlam penceresi nedir
Bir dil modelinin bağlam penceresi, yanıt üretirken göz önünde tuttuğu her şeyi kapsayan çalışma belleğidir.
Bağlam pencereleri nasıl büyüdü
Son birkaç yılda bu pencere hızla büyüdü. GPT-4, Mart 2023'te 8.192 tokenla piyasaya çıktı. Bugün GPT 5.6 Sol yaklaşık bir milyon token işliyor; bu miktar yaklaşık 120 kat daha fazla ve Tolstoy'un "Savaş ve Barış" romanı için yeterli.
Nvidia büyük pencereleri neden çıkmaz olarak görüyor
Nvidia araştırmacıları, büyük yapay zeka bağlam pencerelerinin bir çıkmaz olduğunu savunuyor. Dil modelleri artık tüm romanları tek seferde işleyebiliyor. Bir Nvidia araştırma ekibi bunun çoğu zaman gereksiz ve maliyetli olduğunu söylüyor.
Benzer düzeyde işe yarayan yaklaşımlar
Birçok testte periyodik özetler ve hedefli aramalar benzer düzeyde işe yaradı.
Kaynaklar: The Decoder
SiTech — AI destekli web geliştirme
Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.