تأثير LLMentalist: كيف تعيد روبوتات المحادثة حيلة الوسيط الروحاني

في مقال نُشر على موقع softwarecrisis.dev، يرى المطوّر والمؤلف بالدور بيارناسون أن الإحساس بالذكاء الذي تتركه النماذج اللغوية الكبيرة القائمة على المحادثة (LLM) يأتي من الآلية النفسية نفسها التي تقوم عليها "القراءة الباردة" عند الوسطاء الروحانيين: التحقق الذاتي.

حيلة الوسيط في ست مراحل

يقول إن النموذج اللغوي الكبير ليس إلا نموذجًا رياضيًا لرموز اللغة: تعطيه نصًا فيعيد عليك استكمالًا معقولًا رياضيًا. هذا لا يفسّر الشعور بالحديث إلى عقل، لذلك يبحث بيارناسون عن الوهم لدى المستخدم لا في النموذج. وهو يقسّم عرض الوسيط إلى ست مراحل — جمهور يختار نفسه، مشهد مُهيَّأ، تحديد "الهدف" المحتمل، اختباره، حلقة التحقق الذاتي، ثم الدهشة الأخيرة — ويقابل كل مرحلة باستخدام روبوتات المحادثة. فالمتشككون في الذكاء الاصطناعي نادرًا ما يستخدمونها، والضجيج الإعلامي والتحذيرات من "الأيام المبكرة" تصوغ التوقعات، والطلب (prompt) يحدد السياق، ومن يبقى في المحادثة هو من هو مستعد للإيمان.

عام إحصائيًا لكنه مقنع

تستغل القراءة الباردة خصيصة في النفس: العبارة التي تحمل معنى شخصيًا تُعدّ دقيقة حتى لو انطبقت على الجميع تقريبًا. ويستخدم الوسطاء "عبارات تحقق" مثل عبارات فورر (بارنوم) كـ"تميل إلى القسوة على نفسك"، والنفي المتلاشي، وحيلة قوس القزح، والتخمينات الديموغرافية والإحصائية. ويرى بيارناسون أن ردود روبوت المحادثة تعمل بالطريقة ذاتها: تبدو مخصصة لحالتك، لكنها في الحقيقة استكمال محتمل إحصائيًا لطلبك، والمستخدم هو من يصادق على أنها "تخصه".

التعلم المعزز بالملاحظات البشرية و"المتخاطر الآلي"

يتوقف المقال عند التعلم المعزز بالملاحظات البشرية (RLHF)، وهي الطريقة التي تحوّل بها الشركات النموذج الخام إلى منتج محادثة. فالمقيّمون عادة عاملون بأجور متدنية لا يملكون وقتًا للتحقق من الوقائع، ونموذج المكافأة نفسه نموذج لغوي، لذا لا تستطيع الملاحظات أن تكافئ الوقائع بل النبرة والبنية المميزتين لنصوص صُنّفت دقيقة. ويخلص المؤلف إلى أن RLHF أصبح فعليًا نظام مكافآت لإنتاج عبارات التحقق، أي "متخاطرًا آليًا". وهو يرى أن الأثر عرضي لا احتيال متعمد، ويشبه القطاع بالوسطاء الذين يمارسون القراءة الباردة دون وعي. وينصح بعدم دمج النماذج اللغوية في المنتجات والعمليات، مستشهدًا بالهلوسة والملخصات غير الموثوقة ومشكلات الأمان، ويرى أن تلقى روبوت محادثة مقنع كما تُلقى جلسة مقنعة: بفضول تجاه الحيلة لا بإيمان بالقدرة.