CrankGPT: bulutsuz çalışan, insan gücüyle beslenen bir yapay zekâ

CrankGPT, ciddi bir yüzle ve kalkık bir kaşla yazılmış bir ürün sitesi, insan gücüyle çalışan, tamamen yerel ve gizli bir yapay zekâ çözümü sunduğunu söylüyor. Kiralık veri merkezlerindeki GPU'lar yerine kademeleri insan emeğinin vatıyla ölçülüyor: günlük ev kullanımı için temel kollu model, ileri düzey kullanıcılar ve küçük şirketler için pedal çevirmeli modeller, karmaşık ajan ve kurumsal iş akışları için ise spor salonları ve fitness stüdyolarıyla ortaklıklar.

Vatla ölçülen üç kademe

Katalog bilinçli olarak tanıdık. 20 W'lık Synapse soru-cevap ve basit sohbetle ilgileniyor. 150 W'lık Cortex ajan tabanlı kodlama ve video üretimine yönelik. 2000 W ve üzeri Singularity ise ajan sürüleri, eğitim ve ince ayar için ayrılmış. Sitenin doğru boyutlandırma dediği ilke basit: işe uygun aracı kullan ve tokenlarını petrol yerine kalori yakarak üret.

Bugünün tahmini: bulutsuz

Gizlilik argümanı işin ciddi kısmı. Site, insanların en yakıcı sorularını, en içteki düşüncelerini ve yarım kalmış uygulama fikirlerini neden mega şirketlere vermesi gerektiğini soruyor ve CrankGPT'nin tamamen cihaz üzerinde çalıştığını, verinin sahibinde kaldığını söylüyor. Bulut hizmetinin atlatamayacağı durumları da listeliyor: Wi-Fi yok, sağlayıcı arızası, elektrik kesintileri — cihaz elinizdeyse zekâ da yerinde kalıyor.

Enerji, süper arabalar ve token avcılığı

CrankGPT yapay zekâ etrafındaki enerji tartışmasına doğrudan giriyor: teknoloji şirketlerinin iklim taahhütlerini sessizce terk edip modellerini beslemek için gaza çalışan santraller kurduğunu yazıyor; karşı sloganı ise petrol yakmayı bırakıp kalori yakmaya başlamak. Sitenin ekonomi eleştirisi de var: kullanıcılar, üretim maliyetinden pahalıya ödedikleri tokenlara bağımlı hâle getirildi ve para teknoloji yöneticilerinin ceplerinden uzak tutulsa daha iyi olur.

Arkasında gerçekte ne var

Site, teknik belgelere ve uç cihazlarda tamamen çevrimdışı çalışan küçük bir sesli ajanı anlatan bir GitHub projesine bağlantı veriyor; projede sitenin egzersiz temasını yankılayan bir fitness koçu demosu da var. Proje değiştirilebilir konuşma tanımayı (Moonshine, FasterWhisper, NeMo FastConformer, Vosk), metin-konuşma sentezini (Piper, Kokoro) ve llama.cpp üzerinden yerel modelleri destekliyor; varsayılan kurulum Raspberry Pi 5'te çalışıyor. Demo talepleri [email protected] adresine gidiyor. CrankGPT'nin donanım çıkarıp çıkarmayacağı, yaptığı tersine çevirmeden daha az önemli: sektörün gerçek satış argümanları — hesaplama, ölçek, bulut — burada kendi kollarınızın gücüne bağlı.