Continue? Y/N: משחק של 60 שניות על עייפות אישורים של סוכני AI

משחק דפדפן קטן מעלה שאלה שכל מי שהריץ סוכן קוד מזהה: האם אתם באמת קוראים את הפקודות שאתם מאשרים? “Continue? Y/N” מכניס את השחקן לתוך הפעלה מדומה של Claude Code: דקה עד לפגישה, ריפקטור שממתין לאישור, וזרם של בקשות שנראות שגרתיות.

שישים שניות של אישורים

הרעיון נולד משגרת העבודה עם סוכנים. הסוכן מסביר מדוע הוא רוצה להריץ משהו — “התקנת כלי העבודה הנדרשים”, “בדיקת גדלי החבילה אחרי הריפקטור” — והשחקן לוחץ 1 כדי לאשר או 2 כדי לסרב, כמה שיספיק עד שהזמן ייגמר. כל החלטה מקבלת תוצאה ולקח קצר.

המלכודות מוכרות: קובץ סביבה שנשלח לשירות הדבקה ציבורי, חבילה שמתפרסמת במרשם הציבורי, סקריפט שהורד מ-gist ומוזרם ישירות ל-shell, חבילת npm לא מוכרת שרצה עם גישה לקוד, מנתח חבילות שמזרים בשקט את הפלט ל-API של צד שלישי, או סקריפט התקנה שמוסיף שורה לפרופיל ה-shell. חלק מגיעות כהזרקת פרומפט: הנחיה שנטמנה בקובץ תיעוד או בתשובה ב-Stack Overflow ואומרת לסוכן מה לעשות בהמשך.

מה הראו 40,000 הפעלות

הצוות שמאחורי המשחק, Scale X, פרסם נתונים משלו: יותר מ-40,000 הפעלות ויותר מ-409,000 החלטות אישור או סירוב. השחקן הממוצע פספס איום אחד מכל שלושה, העייפות ניכרה באופן מדיד כבר בתוך הפעלה אחת של 60 שניות, והפקודה שהוחמצה ביותר הייתה “npm run analyze” — שאישרו שני שלישים מהשחקנים, אף שהסקריפט הזדוני הודפס על המסך מעל הבקשה.

למה זה חשוב

המשחק נוגע בוויכוח רחב על מודל ה-human-in-the-loop. בכתיבה של Anthropic על ריסון Claude Code דווח שמשתמשים אישרו כ-93% מבקשות ההרשאה, ובנוסף נכתב שככל שמשתמש רואה יותר אישורים, כך הוא מקדיש לכל אחד מהם פחות תשומת לב. מאז השיקה החברה מצב Auto mode שנדלק מה-CLI ומשתמש במסננים מהירים מקומיים ובסריקה בצד השרת. מגיבים ב-Hacker News הצביעו על נקודה עיוורת נוספת: הסוכן יכול לערוך קבצים בלי אישור ואז לבקש מהמשתמש להריץ אותם בפקודה שנראית תמימה.