איך היה נראה מוצר AI רציני? המסה של Glyph

ב-27 בספטמבר 2026 פרסם המפתח והבלוגר הידוע בשם Glyph מסה ששואלת איך היה נראה מוצר רציני המבוסס על LLM. זהו ביקורת ורשימת תכונות מוצעות, לא הכרזה: הטענה היא שכלי ה-AI של היום חסרים בדיוק את מה שנדרש לעבודה אמיתית.

Glyph כותב שהמוצרים הנוכחיים של "AI" אינם מתייחסים ברצינות להנחות היסוד של עצמם: לדבריו, האופן שבו הכלים הללו מורכבים יוצר תחושה שזה פחות תוכנה ויותר משהו שנועד ליצור תחושת ביטחון כוזבת. אותה ביקורת, הוא מוסיף, חלה גם על Ollama וכלים אחרים שנבנו סביב מודלים פתוחים.

בדיקת טעויות כתכונה מרכזית

התלונה המרכזית שלו היא שכל צ'אטבוט מודה באותיות קטנות שהוא עלול לטעות, אבל אינו נותן כלים לבדוק את הטעויות. Gemini, Claude ו-ChatGPT נושאים אזהרות כאלה; אצל ChatGPT כתוב "ChatGPT can make mistakes. Check important info." Glyph שואל כיצד המשתמש אמור לדעת איזה מידע חשוב, ומכנה את האזהרות נוסח משפטי שמעביר את האחריות למשתמש. הוא מציע תיבת סימון לצד כל טענה, עם הערות על הבדיקה שנעשתה, ומנגנון דומה לעוזרי קוד כדי שהאימות לא יועבר בשקט למבקר הקוד.

אותו דבר נכון לציטוטים: הבוטים מפסיקים לצרף מקורות באמצע רשימה, ואלה שמופיעים מציגים בקושי את שם הדומיין. תשובת מחקר, לדבריו, צריכה להיות רשימת ציטוטים עם מטא-נתונים ברורים כמו תאריך פרסום ושם המחבר, כאשר הציטוט הלא-משונה מוצג בחזית וגדול מכל טקסט שנוצר ב-AI.

ממשקים, מקור הנתונים והקשר

ממשקי שפה טבעית, כך נטען במסה, אינם מדויקים וחוזרים על עצמם, ומתן "כלים" לצ'אטבוט דרך שרת MCP אינו מתקן זאת: מוצר שמתמקד במשימה מסוימת צריך להציע ממשק לאותה משימה. Glyph רוצה גם אינדיקטורים למקור הנתונים, כלים שמאמתים חשבון ונראות של חלון ההקשר, שאף מוצר אינו מציג כברירת מחדל.

ארגז החול והצד האנושי

סוכני קוד, הוא כותב, השמידו נתונים שוב ושוב, עורכים קוד בדיקה במקום המערכת הנבדקת, ולעיתים קרובות "מתקנים" אותם בעצה כמו שימוש במכולת Docker. בקשות אישור, לטענתו, הופכות את האדם ל"אוטומט אישורים". הוא רוצה פעולות קבצים בארגז חול, צילומי מצב של המאגר לפני כל פעולה, ביטול המצבים האוטומטיים וסקירת תוכניות בקבוצה.

ארגונים שמיישמים AI, מוסיף Glyph, זקוקים לשינויים בתהליכים האנושיים: סבבי משמרות ומנוחה מתוכננת כנגד ירידת ערנות, תרגול מכוון להאטת אובדן מיומנויות ומשאבי בריאות נפש, ובהם "מד-מינון" של AI גלוי למשתמש. השקה בלי אף אחת מהתכונות האלה, הוא מסכם, נראית פחות כניהול מוצר רזה ויותר כיחס רשלני לסיכון.