Inception, Saniyede 1,068 Token Ürettiğini İddia Eden Diffusion Tabanlı LLM Olan Mercury 3'ü Tanıttı

Inception, Mercury 3'ü bugüne kadarki en yetenekli diffusion tabanlı büyük dil modeli olarak tanımlayarak yayınladı. Şirket, modelin saniyede 1,000'den fazla token üretirken 4 ile 8 kat daha hızlı çalışarak bir dizi kıyaslamada GPT-6 Luna ve Claude Haiku 5.5'ten daha iyi performans sergilediğini söylüyor.

Performans ve Fiyatlandırma

Mercury 3, NVIDIA GPU'larında saniyede 1,068 token hızına ulaşıyor ve Mercury 2.5'te 260,000 olan bağlam penceresini 1 milyon token'a yükseltiyor. Model, Mercury 1'den 40 kat daha büyük ve Inception, standart kıyaslamalardaki zekanın Mercury 1 mini'den Mercury 3'e 3 kat arttığını belirterek, autoregressive modellerden bilinen ölçekleme yasalarının diffusion için de geçerli olduğunu öne sürüyor.

Fiyatlandırma, milyon giriş tokeni başına $0.20 ve milyon çıkış tokeni başına $0.70 olarak belirlenmiş olup yüzde 50'lik lansman indirimi bu rakamları $0.10 ve $0.35'e düşürüyor. Önbelleğe alınmış tokenlar giriş fiyatından yüzde 90 indirimli.

Üretim Kullanım Senaryoları

Erken erişim ortakları, Mercury 3'ü tarayıcı ajanları, etkileşimli eğitim, gerçek zamanlı arama ve müşteri desteği için kullanıyor. 50 canlı Mind2Web gezinme görevinde yürütülen bir üretim web-aracı testinde, Mercury 3 bunların yüzde 50'sini tamamladı; Inception, bu sonucun aynı token hacmi ve aynı ajan adımı sayısıyla, token başına maliyetin yalnızca bir kısmıyla GPT-6.1-Sol'dan önemli ölçüde daha fazla olduğunu söylüyor.

Eğitim alanında RevisionDojo olarak da bilinen General Learning, ipuçlarının, işaretli cevapların ve tanımların artık yaklaşık bir saniyede döndüğünü bildiriyor. Octen AI, Sense API testlerinde medyan üretim süresini 0.9 saniye ve medyan uçtan uca yanıt süresini 2.2 saniye olarak ölçtü. Lorikeet, Mercury 3'ün gecikme konusunda diğer modelleri geçtiğini ve aynı zamanda düzenlenmiş müşteri desteği için değerlendirmelerde ve üretimde daha yüksek performans sergilediğini söylüyor.

Kullanılabilirlik ve Ürün Portföyü

Mercury 3 bugün Inception API Platform üzerinden ve OpenRouter, Baseten ve Vercel aracılığıyla kullanılabilir. OpenAI API ile uyumludur ve kurumsal dağıtımlar ayrılmış kapasite, otomatik ölçeklendirme, uyumluluk kontrolleri ve yapılandırılabilir veri saklama özelliklerini destekliyor. Şirket API denemeleri için 100 milyon ücretsiz token sunuyor.

Bu sürüm, ses uygulamalarının düşük gecikme gereksinimleri için özelleştirilmiş ve Audivi AI, Altur ve OpenCall'daki ajanları şu anda besleyen Mercury Voice'u ve şirketin JevBench ve LegalBench dahil kıyaslamalarda Jev'den daha iyi performans sergilediğini söylediği, yüksek hacimli sınıflandırma için bir karar modeli olan Mercury Decide'i içeren gerçek zamanlı ürün portföyünü genişletiyor.

Kaynaklar: Inception