Python'da 25 satırda Jev: TypeSafe'in iddialarını sorgulayan bir parodi

22 Eylül'de açık kaynak projesi NobodyWho'dan Duarte O.Carmo, "Python'da 25 satırda Jev" başlıklı bir yazı yayımladı. Yazı, TypeSafe AI'nın 14 Eylül'de duyurduğu karar modeli Jev'in temel davranışını küçük bir yerel model ve yaklaşık yirmi beş satır kodla yeniden üretiyor. Yazı açıkça parodi olarak etiketlenmiş durumda ve Jev'in avantajının ne kadarının mimariden, ne kadarının eğitimden geldiği tartışmasında referans noktalarından biri hâline geldi.

TypeSafe ne duyurdu

Eski OpenAI araştırmacısı Diogo Almeida tarafından kurulan TypeSafe AI, 14 Eylül'de iki yıllık sessizliğini Jev ile bozdu — şirketin System One modellerinin ilki. Jev metni token token üretmiyor: yapılandırılmamış durum verisini ve tiplenmiş soruları alıp kalibre edilmiş olasılıklar ve güven skorları içeren yapılandırılmış yanıtlar döndürüyor. Şirket modeli Reinforcement Learning for Calibrated Decisions (RLCD) adını verdiği yöntemle eğitiyor ve karşılaştırılabilir LLM'lerden iki mertebe daha hızlı ve ucuz olduğunu öne sürüyor: yanıt başına 70–500 ms, öncü modellerde 3–329 saniyeye karşı; milyon giriş token'ı başına 0,042 dolar, çıktı ise bedava. Olası çıktılar önceden tanımlandığı için TypeSafe'ye göre Jev tip hatası yapamıyor ve halüsinasyon göremiyor. System One adı Daniel Kahneman'ın "hızlı düşünme"sinden, modelin adı ise ekonomist William Stanley Jevons'tan geliyor.

25 satır neler yapabiliyor

NobodyWho yazısı, 0,6 milyar parametreli açık model Qwen3-0.6B'yi llama-cpp-python üzerinden yüklüyor, ona maaş ödemesi görünümlü bir kimlik avı e-postası ve üç etiketli yanıt veriyor, "A", "B" ve "C" token'larının logit'lerini okuyup bunları log-softmax ile olasılıklara çeviriyor: Legitimate %3,1, Spam %8,4, Phishing %88,5. API çağrısı yok, reinforcement learning yok, sentetik veri yok ve veri makineden çıkmıyor. Yazar bunun bir parodi olduğunu belirtiyor ve açık yeniden uygulamalara işaret ediyor: OpenJev, openjev-sglang ve DiffusionGemma üzerinde bir OpenJev sürümü.

Neden önemli

Yazı Hacker News'te 450 puanı geçti; bunun nedeni Jev'i çürütmesi değil, çıkarım hilesini yalıtması — metin örneklemek yerine birkaç etiket token'ının olasılıklarını okumak. Arcturus Labs 16 Eylül'de benzer bir gözlem yayımladı: etiket token'ları üzerindeki log-olasılıkları doğrudan okunan ince ayarlı bir LLM, Jev'in davranışının büyük bölümünü yeniden üretiyor; analiz bu yaklaşımı geliştirici Harsha Gundala'ya atfediyor. Bununla birlikte daha zor sorular açık kalıyor. Jev tek bir paralel geçişte birçok soruyu yanıtlıyor, 25 satırlık sürüm ise yalnızca birini; kalibrasyon iddiaları ise analizin TypeSafe'in henüz açıklamadığı parça olarak işaret ettiği RLCD'ye dayanıyor. Gerçek dünya görevlerindeki doğruluk şimdilik doğrulanmış değil.