هلوسات الذكاء الاصطناعي: المستخدمون يثقون في ChatGPT أكثر من الموظفين

نشرت The Verge في 2 أكتوبر تقريرًا حول كيفية تغيير هلوسات الذكاء الاصطناعي لقطاع الخدمات. وفقًا لموظفي الخدمة، يعتبر المستخدمون إجابات ChatGPT معلومات موثوقة ويجادلون مع الموظفين حتى عندما تكون المعلومات خاطئة. في رأي المنشور، الانتشار واسع النطاق للذكاء الاصطناعي التوليدي يغير قاعدة أن العميل دائمًا على حق.

تحذيرات الحساسية وأنواع النبيذ المختلقة

ماديسون (Madison)، النادلة في مطعم نيويورك، تسأل كل طاولة عن الحساسية. طلب زبائن يعانون من حساسية المحار مؤخرًا طبقًا يُحضر مرقه من المحار. رغم التحذيرات، يتجاهلون ChatGPT: «لديكم حساسية من المحار، لكن ChatGPT يقول إن الطبق لا يحتوي على محار، ونحن نقول إنه يحتوي!»

في مطعم إيطالي موصى به من Michelin، يسأل الضيوف عن النبيذ ChatGPT بدلًا من السوميلييه. وغالبًا ما يكون الرد على اقتراح السوميلييه: «أنا أسأل ChatGPT فحسب». بعضهم يطلب نبيذًا غير موجود. يخبر الموظفون النتيجة بلطف، قائلين إن قائمة النبيذ محددة جدًا، بدلًا من أن يقولوا مباشرة إن روبوت المحادثة اخترع العلامة التجارية.

مخيمات مختلقة وجداول النوم

المشكلة لا تقتصر على المطاعم. حرس النهر جيسون (Jason) يعمل في أراضٍ اتحادية ويقول إن الزوار أصبحوا يأتون إلى الحديقة بشكل متكرر بمسارات وضعها الذكاء الاصطناعي، حيث المخيمات مختلقة والمواقع مرتبة بشكل خاطئ. يقول: «جزء من مستخدمي AI يثقون في ChatGPT أكثر من الحراس والخرائط والأدلة المطبوعة». بعض المجموعات لا يتشككون حتى عندما يشير الحارس إلى خطأ في الخريطة.

كيسي (Casey)، معلمة في برنامج ما بعد المدرسة في نيويورك، تقول إن الآباء يسألون ChatGPT أو Claude عن أسئلة نمو الطفل بشكل متكرر. قامت عائلة واحدة بوضع نظام نوم من ChatGPT، رغم أن الطفل لم ينم بشكل كافٍ؛ في تقدير كيسي، كان يحتاج إلى 2-3 ساعات نوم إضافية، لكن الآباء أصروا على أن جدول ChatGPT صحيح.

وكلاء الذكاء الاصطناعي في طلبات الحجز

لورين ويلفورد (Lauren Wilford) تعمل في مجال الطعام منذ 15 عامًا: وفقًا لها، يرفع الضيوف صور القائمة إلى ChatGPT أو Claude ويأخذون التوصيات من روبوت المحادثة بدلًا من النادل. مطعمها يتلقى طلبات حجز من وكلاء الذكاء الاصطناعي أيضًا. اندهشت ويلفورد: عميل لا يهتم عادة بالتفاصيل طلب في اليوم السابق للحدث مدرجات ومعدات AV لم يكن مطعم بروفيدنس يملكها. في اليوم التالي جاء العملاء ولم يذكروا الطلبات؛ تشك ويلفورد أن وكيل ذكاء اصطناعي أرسلها.

لماذا هذا مهم

الصورة أوسع: موظفو دور السينما وباريستا ومتاجر Apple Store يطلب منهم العملاء منتجات غير موجودة، وعلى Reddit وX يثق العملاء بإجابات ChatGPT دون قيد أو شرط. في تقييم المنشور، إطلاق Meta لوكيل الذكاء الاصطناعي الجديد Muse سيعزز المشكلة أكثر. تقول ويلفورد إنها تشارك أسباب استخدام وكلاء الذكاء الاصطناعي، رغم أن اللحظة التي يحل فيها شخصان مشكلة معًا لها قيمة خاصة.