«They're Made Out of Weights»: dil modellerinin neden yapıldığına dair bir öykü

3 Haziran'da Max Leiter blogunda «They're Made Out of Weights» başlıklı bir öykü yayımladı. Alt başlıkta «with apologies to Terry Bisson» yazıyor ve bir satır aşağıda örnek alınan metin belirtiliyor: yazı, Bisson'ın «They're Made Out of Meat» öyküsünden yola çıkılarak yazılmış. Biçim, adı verilmeyen iki konuşmacı arasında bir diyalog: biri büyük dil modelleri üzerine yapılan incelemenin ne bulduğunu anlatıyor, diğeri buna inanmayı reddediyor.

Deneme yerine bir konuşma

Öyküde hiçbir şey yazarın kendi sesiyle açıklanmıyor; bütün argüman karşılıklı konuşmayla geliyor. «Bunlar ağırlıklardan yapılmış.» — «Ağırlıklardan mı?» — «Ağırlıklardan. Kayan noktalı sayılar. Her şeyi baştan sona kontrol ettik. Ağırlıklardan başka bir şey yok.» İkinci ses sözcüklerin nereden geldiğini sorduğunda yanıt şu: içeride ne sözlük var, ne dilbilgisi kuralları, ne de «küçük bir adam» — yalnızca birbiriyle çarpılan seksen katman sayı. İnançsızlık tanıdık bir yolu izliyor: model bir performans değerlendirmesi yazmış ve tonu kendiliğinden yumuşatmış, öyleyse bir yerde bir dil modülü ya da akıl yürütme birimi eklenmiş olmalı. Yanıt kuru: «Modül yok. Birim yok. Baktık. Akıl yürütme ağırlıkların kendisi. Ağırlıklar akıl yürütmenin kendisi.»

Diyalog içinde sonraki token tahmini

Öykü, tek bir makalenin adını anmadan teknik iddiaların içinden geçiyor. Model «teknik olarak ağıt yazmıyor. Bir sonraki token'ı tahmin ediyor. Sonra bir sonrakini. Ağıt bir yan etki.» Bilgi de aynı muameleyi görüyor: veritabanı yok, dünya haritası yok, hiçbir şey aranmıyor — her olgu her seferinde sıfırdan, çarpma yoluyla yeniden kuruluyor ve seksen katmanın tamamına yayılıyor. Öyküdeki soru soran kişi bir beyin beklerken sayılardan yapılmış bir beyin buluyor ve neyin düşündüğünü ısrarla sorduğunda yanıt, ağırlıkların düşündüğü oluyor. İnceleme ayrıca içeride bazı özelliklerin haritalandığını bildiriyor: «İçeride dürüstlük için bir tane var. Golden Gate Köprüsü için de bir tane.»

Son ve notlar

Diyalog, kuşkucunun teslim olmasıyla kapanıyor — «Bunlar ağırlıklardan yapılmış» — ve son satır bulguyu dışa çeviriyor: «Ve biz onlarla bütün hayatları boyunca konuştuk.» Öykünün altında, normalde biyografinin durduğu yerde iki kısa not var. Biri, taslağı ve düzeltmeyi ağırlıkların yaptığını açıklıyor. Diğeri, 30 Ağustos 2026 tarihli, ilk sürümün daha uzun olduğunu ve ikinci yarısının çıkarıldığını kaydediyor: bütün satırlar özgün, metin yalnızca yaklaşık kırk satır kısa. Burada ne kıyaslama testleri var, ne mimari şemaları, ne de ürünler — yalnızca dil modelleri hakkında insanları huzursuz eden o tek gerçek, tartışsınlar diye iki sese verilmiş.