CrankGPT: בינה מלאכותית על כוח אדם, בלי ענן — עם קלוריות

CrankGPT, אתר מוצר שנכתב בפנים ישרות ובגבה מורמת, מציע את מה שהוא מכנה פתרון בינה מלאכותית על כוח אדם, מקומי ופרטי לחלוטין. במקום מעבדים גרפיים במרכזי נתונים בשכירות, הדרגות שלו נמדדות בוואטים של מאמץ אנושי: דגם ידני בסיסי לשימוש ביתי יומיומי, דגמים על פדלים למשתמשים מתקדמים ולחברות קטנות, ולזרימות עבודה סוכניות וארגוניות מורכבות — שיתופי פעולה עם חדרי כושר ואולפני כושר.

שלוש דרגות, נמדדות בוואטים

הקטלוג מוכר בכוונה. Synapse בהספק 20 ואט מטפל בשאלות ותשובות ובשיחה פשוטה. Cortex ב-150 ואט מיועד לקידוד סוכני וליצירת וידאו. Singularity מ-2000 ואט ומעלה שמור לנחילי סוכנים, לאימון ולכיוונון. העיקרון שהאתר מכנה מידות נכונות הוא פשוט: השתמש בכלי המתאים למשימה, והפק את הטוקנים שלך בשריפת קלוריות במקום נפט.

תחזית להיום: נטול עננים

טיעון הפרטיות הוא החלק הרציני. האתר שואל למה למסור לתאגידי ענק את השאלות הבוערות, המחשבות הפנימיות והרעיונות לאפליקציות שעוד לא התגבשו, ואומר ש-CrankGPT רץ כולו על המכשיר כך שהנתונים נשארים אצל הבעלים. הוא גם מפרט מה שירות ענן לא ישרוד: אין Wi-Fi, תקלה אצל הספק, הפסקות חשמל — המכשיר לידך והבינה נשארת איתך.

אנרגיה, מכוניות ספורט וטוקנים

CrankGPT נכנס בעובי הקורה לוויכוח האנרגיה סביב הבינה המלאכותית ומציין שחברות טכנולוגיה נטשו בשקט את התחייבויות האקלים כדי להקים תחנות כוח על גז שיזינו את המודלים; הסלוגן הנגדי הוא להפסיק לשרוף נפט ולהתחיל לשרוף קלוריות. האתר גם עוקץ את הכלכלה של התעשייה: משתמשים הורגלו לטוקנים שהם משלמים עליהם יותר מעלות הפקתם, וכדאי להשאיר את הכסף הרחק מכיסיהם של מנהלי חברות הטכנולוגיה.

מה באמת עומד מאחורי זה

האתר מפנה לתיעוד טכני ולפרויקט ב-GitHub שמתאר סוכן קולי קטן שרץ לחלוטין לא מקוון על מכשירי קצה, עם דמו של מאמן כושר שמהדהד את נושא הכושר באתר. הפרויקט תומך בזיהוי דיבור מתחלף (Moonshine, FasterWhisper, NeMo FastConformer, Vosk), בהמרת טקסט לדיבור (Piper, Kokoro) ובמודלים מקומיים דרך llama.cpp, כשההגדרה הרגילה רצה על Raspberry Pi 5. בקשות לדמו נשלחות ל[email protected]. אם CrankGPT תייצר חומרה פחות חשוב מההיפוך: היתרונות האמיתיים של התעשייה — מחשוב, קנה מידה וענן — כאן תלויים בכוח הידיים שלך.