Ornn Data raporu: açık ağırlıklı modeller eski GPU'ların ekonomik ömrünü uzatıyor

Ornn Data, "The Economics of Open-Weight Inference" başlıklı araştırma raporunu yayımladı. Rapor, yeni bir NVIDIA neslinin tek başına önceki nesli ekonomik olarak eskittiği varsayımına karşı çıkıyor ve açık ağırlıklı modellere yönelik talebin Ampere'den Blackwell'e uzanan eski GPU ailelerinin kullanım ömrünü nasıl etkilediğini inceliyor.

Barındırılan açık modeller ve görev maliyeti

Kapalı modellere erişim, sağlayıcının sıfırlayabildiği abonelik kotaları üzerinden işler; bu yüzden yayımlanan token tarifesi ek kullanımın marjinal fiyatını gösterir. Artificial Analysis Intelligence Index'te on bir açık ve sekiz kapalı modelin karşılaştırmasında, zekâya göre normalize edilen en ucuz uygun açık model bir görevi benzer bir kapalı modelin yaklaşık beşte biri maliyetle tamamlıyor. Rapor bu iddianın sınırlarını da çiziyor: açık modeller yalnızca örneklenen bazı puan eşiklerinde daha ucuzdu, her eşikte değil; aralığın üst ucunda kapalı sınır hâlâ önde.

Kiralık donanımda kendi kendine barındırma

Kendi kendine barındırmanın ilan edilmiş token fiyatı yoktur. Ornn bunu spot endeksindeki GPU-saat kirasının operatörün ulaştığı verime bölünmesiyle hesaplıyor; üretken kullanım ve ayrılan pay da hesaba katılıyor. Tam kullanımda yalnızca hesaplama maliyeti, milyon çıktı tokenı başına 0,12 ile 0,35 dolar arasında. Donanım sıralaması iş yüküne göre tersine dönüyor: 5,1 milyar etkin parametreli seyrek bir model olan gpt-oss-120b üzerinde A100, hem spot hem de üç ve beş yıllık vadeli fiyatlarda H100'den daha ucuza çıktı üretiyor; yoğun Llama-2-70B karşılaştırması ise yeni donanımın lehine. Ornn, A100 ve H100'e ait seyrek verilerin farklı üçüncü taraf servis kurulumlarından geldiğini, yoğun A100 satırının ise tahmin olduğunu belirtiyor.

Kiralama piyasası ne gösteriyor

Ornn, günlük yerleşik kiralama endeksi ile bir aydan beş yıla uzanan vadeli fiyat eğrileri yayımlıyor. A100'ün beş yıllık vadeli fiyatı bir aylık fiyatın %80,2'sini koruyor; Hopper'da bu oran %43,7 ile %59,8, Blackwell'de %53,8. Söz konusu sözleşme, Ampere ailesi 11,3 yaşındayken sona erecek. A100 doluluğu 1 Mart 2026'da %74 iken 1 Eylül 2026'da %90'a çıktı; listelenen kapasite %13, spot endeksi %20 arttı. Yani ailenin spot gücü yalnızca kiralanabilir GPU sayısının azalmasıyla açıklanamaz.

Raporun iddia etmedikleri

Rapor, verilerinin gösteremeyeceğini açıkça yazıyor. Vadeli işaretler analist üretimi göstergelerdir, uygulanabilir kotasyonlar değil. Kiralama gözlemleri açık ağırlıklı talebin katkısını tanımlamıyor; çalışma bu talebin A100 doluluğuna ya da kiralama fiyatına yol açtığını ortaya koymuyor. Cihazların hizmetten çıkarılması, yoğun çıkarım, LLM dışı işler ve finansman etkileri alternatif açıklamalar olarak duruyor. Ornn ayrıca ticari çıkarını da açıklıyor: verisini lisanslıyor ve Ornn Compute üzerinden GPU kiralıyor. Argüman başlıktan dar: eski GPU'lar, uygun iş yükleri üzerlerinde rekabetçi kaldığı ve operatörler onları orada konuşlandırmakta serbest olduğu sürece ekonomik bir rol taşıyor.