NVIDIA'nın SoL-Pi sistemi kod ajanının token kullanımını neredeyse yarıya indiriyor

NVIDIA araştırmacıları, Codex, Claude Code ve OpenClaw gibi kod ajanlarının üzerinde çalıştığı harness'ı, yani model ile ortamı arasındaki kontrol katmanını otomatik iyileştiren SoL-Pi'yi geliştirdi. The Decoder'ın aktardığı 17 Eylül tarihli arXiv makalesine göre iyileştirilmiş harness benzer performansı korurken token trafiğini yüzde 44,7-49, API maliyetini ise yaklaşık üçte bir azaltıyor.

Hedef artık modelin kendisi değil

Verimlilik çalışmaları genellikle modelin kendisine odaklanır: daha hızlı çekirdekler, kuantizasyon veya daha ucuz modeller. SoL-Pi ise ajanın durumları nasıl gördüğünü, eylemleri nasıl yürüttüğünü ve geri bildirimi nasıl işlediğini değiştiriyor. Bir araştırma AI'ı temel harness üzerindeki ajanın izlerini okuyup aday değişiklikler öneriyor; aday yalnızca ilan edilen yetenek toleransı içinde kalıp bir verimlilik metriğini iyileştirirse korunuyor.

Arama, bağlam, araçlar, delegasyon ve değerlendirme gibi altı ailede 152 yönü kapsadı ve 535 çalıştırılabilir ortamda denendi: 3.000'den fazla çalıştırma ve 60.000 ajan-ortam etkileşimi.

Seçimi geçen dört mekanizma

Aramadan dört mekanizma çıktı. Action Fusion iki ardışık adımı tek adımda birleştirip bir model çağrısını tamamen ortadan kaldırıyor. Online Context Compact, önemli bilgi kaybolmadığında bağlamı her planlama adımından sonra kısaltıyor. ObservationPack uzun araç çıktılarını arşivleyip sonraki adımlarda tam metin yerine kısa bir özet gönderiyor. Evidence-Preserving Reducer büyük hata ve test günlüklerini, temel bulguları damıtan ucuz bir modele yönlendiriyor.

EdgeBench'te dört mekanizmayı birleştiren sürüm yüzde 49 daha az token harcıyor ve Pi'nin temel puanının yüzde 93,7'sine ulaşıyor; API maliyeti Codex'e karşı yüzde 50,0, Claude Code'a karşı yüzde 54,3 düşüyor. Yalnızca en güçlü tek mekanizmayı kullanan sürüm Pi'yi yüzde 5,3 geçiyor. Bir test çalıştırmasında maliyet 1.339 dolardan 894 dolara düştü; yazarlara göre saatlik tasarruf Codex ve Claude Code'a karşı 8,75-13,50, Pi'ye karşı 4,36-5,71 dolar.

Yalnızca GPT-5.6 Sol ile geliştirilen sistem, hiçbir değişiklik yapılmadan Opus 5'e uygulandı; orada Pi'nin performansının yüzde 94,3'ünü benzer tasarrufla korudu, mekanizmalar ise daha seyrek devreye girdi.

Diğer kıyaslamalarda tablo karışık

Terminal-Bench 4'ün 63 CPU görevinde SoL-Pi 15 görevi çözdü, Codex ve Pi ise 18'er görevi çözdü; maliyet dörtte bir düşük kaldı. IMO 2026'nın Lean 4 görevlerinde altı problemin üçü çözüldü; 20 SoL-Pi çalışanından oluşan sürü ise çekirdek optimizasyonu maliyetini yüzde 26,8 azalttı.

Bağlamı küçültmenin bedeli var: The Decoder'a göre ayrı bir çalışma, bağlam sıkıştırmasının kullanıcı talimatlarının ortalama yalnızca yüzde 17'sini koruduğunu buldu.