קולין ברק: אני לא רוצה לקרוא את מה שלא כתבתם

מהנדס התוכנה והבלוגר קולין ברק, שכותב על מערכות מבוזרות בבלוג האישי שלו, פרסם מסה בשם „אני לא רוצה לקרוא את מה שלא כתבת“. הטענה שלו פשוטה: הבינה המלאכותית עוזרת לו לכתוב טוב יותר ומהר יותר, אבל נמאס לו לקרוא כמעט כל דבר שנכתב בידי AI.

תקציר אינו מסמך

ברק מתאר דפוס חוזר: אנשים בונים משהו חדש בעזרת AI, ואז משתמשים באותו כלי כדי לסכם בדיעבד את מה שכבר נבנה למסמך תכנון. מסמך כזה אינו עוד הצעה שנועדה ליצור קונצנזוס ולחדד רעיונות באמצעות חשיבה איטית ומחושבת — הוא תקציר שנכתב בידי מכונה, מפרך בפרטיו ונטול הקשר או פרספקטיבה. הכותב מכנה אותו בלתי קריא ובלתי אנושי, ומציין שמי שכתבו אותו מאבדים סבלנות כשקולגות אינם מגיבים, הרי מה שנבנה כבר עובד.

אותה ביקורת חלה על תיאורי pull request, שלדבריו נכתבים בידי מכונות עבור מכונות: עתירי פרטים על מה שהשתנה, אך שותקים בשאלות מדוע העבודה חשובה, עד כמה היא מסוכנת ודחופה והיכן נדרשת חוות דעתו של הסוקר. בעיה דומה קיימת בכרטיסים ובסיכומי פגישות שנוצרו בידי AI — קביעות בלי הקשר. ברק מוסיף דוגמה אישית: הודעה בנושא רגיש שברור שנוסחה בעזרת AI. היו בה כל החלקים, אך כמכלול היא לא הייתה הגיונית.

קוראים נוטשים טקסטים עם ריח של AI

המסה מצטטת סקר של סינתיה דנלופ על תגובת מפתחים לפוסטים בבלוגים עם „ריח של AI“. עבור רוב הקוראים, אם הם חושדים שמאמר נכתב או נערך בעזרת AI, הם מפסיקים לקרוא (78%) ומתרחקים מהכותב בעתיד (71%). התוצאה החזקה ביותר: 98% העדיפו את כתיבתו של הכותב עצמו, על כל פגמיה ומוזרויותיה, על פני שכתוב חסר נשמה של AI. ברק מצטט את בריאן קנטריל, שכתב ששימוש ב-LLM כדי לכתוב „מבטל את החוזה החברתי בין הכותב לקורא“.

איפה ה-AI דווקא עזר

המסה אינה דחייה של הכלים. לאחרונה כתב ברק מאמר אקדמי על מסד נתונים שבנה, ב-LaTeX, והשתמש ב-AI רבות, בלי לתת לו לכתוב ולו שורה אחת. המודל קיבל את מדריך הסגנון והתבנית של כתב העת, מאמרים שפורסמו קודם, קוד מקור, וכן קונפיגורציה, לוגים ומטריקות של סביבת הייצור. לאחר מכן ביקש ממנו לבדוק את פסקאותיו מול אותם מקורות, להשלים ציטוטים, לאתר שגיאות כתיב ודקדוק ולצייר דיאגרמות ב-TikZ. המודל אף איתר שגיאת סימון עדינה שארבעה סוקרים אנושיים מומחים פספסו. החלק היחיד שה-AI כתב היטב, לדבריו, היה התקציר — הקטע היבש והמכני ביותר — והוא השאיר אותו ללא שינוי.

שני ניסיונות ומסקנה

ברק מצביע על שני מאמצים לשפר כתיבה של מכונות. הראשון הוא ASD-STE100 Simplified Technical English — תקן מעולם התעופה והחלל משנות השמונים עם מילון מבוקר וכללי דקדוק נוקשים, שגרסה שלו הותאמה למודלי AI; הוא מתכוון לנסות אותו בהוראות התקנה וב-runbooks. השני הוא Pangram, גלאי שעבר כיוונון עדין לזיהוי טקסטים של AI, שבו משתמש קנטריל: ב-Oxide כל כתיבה פומבית מחויבת להיות מדווחת בידי Pangram ככתיבה אנושית. מסקנתו של ברק: כתיבה מכוונת תהפוך ליקרת ערך יותר, ואילו אלה שמעולם לא היו כותבים יפיקו הרבה טקסט בעזרת AI. לעיתים, הוא כותב, חשוב יותר דווקא לא למצוא את המילים.