AI halusinasiyaları: İstifadəçilər ChatGPT-ə personala nisbətən çox etibar edirlər

The Verge 2 oktyabrda AI halusinasiyalarının xidmət sahəsini necə dəyişdiyinə dəair hesabat dərc etdi. Xidmət işçilərinin sözlərinə görə, istifadəçilər ChatGPT-in cavablarını etibarlı məlumat kimi qəbul edir və məlumat səhv olduqda belə işçilərlə mübahisələşirlər. Nəşrin fikricə, generativ AI-in kəmiyyətli yayılması istifadəçinin həmişə haqlı olduğu qaydasını dəyişir.

Allergiya xəbərdarlığı və uydurma şərablar

Madison, Nyu-York restoranının ofiantı, hər masaya allergiya barədə soruşur. Xərçəngə allergiyası olan müştərilər son vaxt belə bir yemək sifariş etdilər ki, onun bulionu da xərçəngdən hazırlanır. Xəbərdarlığa baxmayaraq, onlar ChatGPT-i inkar edirlər: „Sizə xərçəng allergiyası var, ChatGPT isə deyir ki, yeməkdə xərçəng yoxdur, biz isə deyirik ki, var!“

Michelin tövsiyəsi olan İtalyan restoranında qonaqlar şərab barədə somelie əvəzə ChatGPTə soruşurlar. Somelie köməklə tövsiyə etmək istədikdə tez-tez cavab olur: „Mən sadəcə ChatGPTə soruşuram“. Bəziləri mövcud olmayan şərab tələb edir. İşçilər nətiçəni yumşaq bildirir və şərab siyahısı çox spesifik olduğunu, birbaşa demək əvəzinə chatbotun brendi uydurduğunu deyirlər.

Uydurma düşərgələr və yuxu qrafiki

Problem restoranlarla məhdudlaşmır. Çay rejkeri Jason federal ərazilərdə işləyir və parkda AI tərəfindən hazırlanmış marşrutlarla daha tez-tez ziyarətçilər gəldiyini, burada düşərgələr uydurub və lokasiyanın düzgün qurulmadığını deyir. „AI istifadəçilərinin bir hissəsi ChatGPT-i rejkerlərə, xəritələrə və çaplı bələdçilərə nisbətən çox etibar edir“, — deyir o. Bəzi qruplar rejker xətanı xəritədə göstərdikdə belə şübhə etmir.

Casey, Nyu-York məktəb sonrası proqramının müəllimi, valideynlərin uşaqın inkişafına aid suallara daha tez-tez ChatGPT və ya Claude-a soruşduğunu deyir. Bir ailə ChatGPT-dən yuxu rejimi təyin etdi, lakin uşaq kifayət qədər yuxu görmədi; Casey-in qiymətlərinə görə, uşağa 2-3 saat artıq yuxu lazım idi, valideynlər isə ChatGPT-in qrafikinin düzgün olduğunu əks etdirmirdilər.

AI agentləri rezervasiya tələblərində

Lauren Wilford qida sahəsində 15 ildir ki işləyir: onun sözlərinə görə, qonaqlar menyunun şəklini ChatGPT-ə və ya Claude-a yükləyir və ofiant əvəzinə chatbotdan məsləhət alır. Onun restoranı rezervasiya tələblərini AI agentlərindən də qəbul edir. Wilford təəccübləndi: əgərki adətən detallara qarışmayan müştəri, tədbirə bir gün qalmış tribunaları və AV aparatı tələb etdi ki, Providens restoranında yoxdur. İkinci gün müştərilər gəldi və tələbləri xatırlamırlar; Wilford onların AI agent tərəfindən göndərildiyindən şübhələnir.

Nə üçün bu vacibdir

Şəkil daha genişdir: kinoteatrların, baristaların və Apple Store işçilərinə istifadəçilər mövcud olmayan məhsullar tələb edir, Reddit və X-də isə müştərilər ChatGPT-in cavablarına şübhəsiz etibar edir. Nəşrin qiymətləsinə görə, Meta-nın yeni AI agenti Muse-in buraxılışı problemi daha da gücləndirəcək. Wilford AI agentlərdən istifadə səbəblərini bölüşür, lakin xüsusilə dəyərli olan anı qeyd edir ki, iki insan problemin birlikdə həll etdiyi andır.