למה כותב אחד ממליץ כמעט לעולם לא לתת ל-AI לכתוב

במסה שפורסמה באוגוסט טוען אריך גרונבלד שאנשים כמעט לעולם לא צריכים להשתמש ב-AI כדי לכתוב משהו מהותי — פוסט בבלוג, דוח מחקר, מזכר, מייל מהורהר או רומן. הטיעון שלו נשען על שלוש טענות: תהליך הכתיבה הוא חלק מתהליך החשיבה, הפרוזה של AI מעורפלת ושגויה באופן שקשה לשים לב אליו, והצגת טקסט של AI כשלך מטעה את הקורא.

הכתיבה היא המקום שבו החשיבה קורית

גרונבלד אינו נגד AI בכלל. הוא רואה הגיון בשימוש בו לתמלול אודיו, לניתוח נתונים, לחיפוש מידע, לסיעור מוחות ולמשוב על טיוטות, והוא מקבל עריכה לשונית אם אדם מאשר או דוחה כל שינוי ביודעין. מה שהוא שולל הוא שימוש במודל כדי לייצר את הטקסט עצמו — גם כשהכותב מספק נקודות מפורטות או מחשבות מוכתבות ואחר כך עורך את התוצאה.

הסיבה הראשונה היא שהחשיבה קורית בכתיבה עצמה. הוא מצטט את תצפיתו של פול גרהם: הפיכת רעיונות למילים היא מבחן קשה, ומחצית מהרעיונות במסה נולדים אצל הכותב בזמן הכתיבה. הסופרת קלרה קולייר, בפודקאסט של פטריק מקנזי, מתארת כיצד כל שלב בטיוטה משנה את דעתה, ומוסיפה: מודל שמקבל מתווה לא יעצור לשקול שאולי המתווה עצמו שגוי. סיכומו של מקנזי: בונים מכונה שכותבת, והחשיבה פשוט נופלת החוצה כתוצר לוואי.

מעורפל, שגוי במידה, ומשכנע מאוד

הטיעון השני נוגע למרקם של פרוזה ממוכנת. כשהתבקש המודל לכתוב פסקה על הברחת שבבי AI, התוצאה הייתה ״לא נוראית״, אבל גרונבלד מפרט את הכשלים הקטנים: תיאור השבבים כ״קומפקטיים״ בעוד שבדרך כלל מוברחים שרתים; הערכת היקף שקצהּ התחתון נראה לו כמעט בוודאות שגוי; ומשפט סיום שהוא מכנה מחיאות כפיים חסרות מידע. כל בחירה כזו הייתה נעשית אחרת, ובמדויק יותר, אצל מי שמכיר את התחום.

הוא מצטט את הפילוסוף אריק שוויצגבל, שכותב שבחירות המילים של מומחים משקפות רגישויות שהם עצמם אולי אינם מודעים להן. גרונבלד מוסיף את האסימטריה שמחמירה את הבעיה: כשמודל לא יודע משהו, הוא ממעט לומר זאת, ובמקום זאת כותב משהו מעורפל מספיק כדי להיות נכון או משכנע מספיק כדי לעבור.

הצד של הקורא בעסקה

הטיעון השלישי עוסק באמון. הקורא מצפה שהטקסט ישקף את מחשבתו של המחבר, וגרונבלד רואה בכך חוזה סמוי: הקורא נותן קשב, והכותב משיב במשהו בעל ערך. טקסט AI בלי סימון שובר אותו, והוא אומר שהאמון שלו בטקסט צונח מיד כשמתעורר חשד. הוא מקבל שתוצר AI מסומן בבירור יכול להיות סביר, ושתרגום טקסט שכתבת בעצמך הוא שימוש הגיוני, עדיף בגילוי נאות. עבודה עם AI על כתיבה בעלת השלכות כבדות, הוא מוסיף, מאיצה את העבודה בעיקר על חשבון האיכות.