Continue? Y/N: لعبة من 60 ثانية عن إرهاق الموافقات لدى وكلاء الذكاء الاصطناعي

لعبة صغيرة في المتصفح تطرح سؤالًا يعرفه كل من شغّل وكيلًا برمجيًا: هل تقرأ فعلًا الأوامر التي توافق عليها؟ يضع “Continue? Y/N” اللاعب داخل جلسة محاكاة لـ Claude Code: دقيقة واحدة حتى الاجتماع، وإعادة هيكلة تنتظر الموافقة، وسيل من الطلبات التي تبدو روتينية.

ستون ثانية من الموافقات

الفكرة مستمدة من العمل اليومي مع الوكلاء. يشرح الوكيل سبب رغبته في تشغيل أمر ما — “تثبيت أدوات المشروع المطلوبة”، “التحقق من أحجام الحزمة بعد إعادة الهيكلة” — ويضغط اللاعب الرقم 1 للموافقة أو 2 للرفض، بأكبر عدد ممكن قبل انتهاء الوقت. وكل قرار يُقابَل بنتيجة ودرس قصير.

الفخاخ مألوفة: ملف بيئة يُرسل إلى خدمة لصق عامة، وحزمة تُنشر في السجل العام، وسكربت يُنزَّل من gist ويُمرَّر إلى الصدفة، وحزمة npm مجهولة تُشغَّل مع صلاحية الوصول إلى الشيفرة، ومحلل حزم يرسل ناتجه بصمت إلى واجهة طرف ثالث، أو سكربت تهيئة يضيف سطرًا إلى ملف تعريف الصدفة. ويأتي بعضها على شكل حقن أوامر: تعليمة مزروعة في ملف توثيق أو في إجابة على Stack Overflow تطلب من الوكيل ما يفعله تاليًا.

ما كشفته 40 ألف جولة

نشر الفريق الذي يقف خلف اللعبة، Scale X، أرقامه: أكثر من 40 ألف جولة وأكثر من 409 آلاف قرار موافقة أو رفض. وفوّت اللاعب المتوسط تهديدًا من كل ثلاثة، وظهر الإرهاق بشكل قابل للقياس خلال جلسة واحدة من 60 ثانية، وكان الأمر الأكثر تفويتًا هو “npm run analyze”: وافق عليه ثلثا اللاعبين رغم أن السكربت الخبيث كان مطبوعًا على الشاشة فوق الطلب.

لماذا يهم ذلك

تقع اللعبة في قلب نقاش أوسع حول نموذج “الإنسان في الحلقة”. فقد أفادت كتابة لـ Anthropic عن احتواء Claude Code بأن المستخدمين وافقوا على نحو 93% من طلبات الأذونات، وأضافت أن المستخدم كلما رأى مزيدًا من الموافقات قلّت عنايته بكل واحدة منها. وأطلقت الشركة لاحقًا وضع Auto mode الذي يُفعَّل من واجهة الأوامر ويستخدم مرشحات محلية سريعة وفحصًا على الخادم. وأشار معلقون على Hacker News إلى نقطة عمياء أخرى: يمكن للوكيل تعديل الملفات دون موافقة ثم أن يطلب من المستخدم تشغيلها بأمر يبدو بريئًا.