AI-ի հալյուցինացիաներ. օգտատերերը ChatGPT-ին ավելի շատ են վստահում, քան անձնակազմին

The Verge-ը հոկտեմբերի 2-ին ռեպորտաժ հրապարակեց այն մասին, թե ինչպես են AI-ի հալյուցինացիաները փոխում սպասարկման ոլորտը։ Սպասարկման ոլորտի աշխատակիցների խոսքով՝ հաճախորդները ChatGPT-ի պատասխաններն ընկալում են որպես վստահելի տեղեկություն և վիճում են աշխատակիցների հետ նույնիսկ այն ժամանակ, երբ տեղեկությունը սխալ է։ Հրատարակության կարծիքով՝ գեներատիվ AI-ի զանգվածային տարածումը փոխում է այն կանոնը, որ հաճախորդը միշտ իրավացի է։

Ալերգիայի մասին զգուշացում և հորինված գինիներ

Մեդիսոնը (Madison), Նյու Յորքի ռեստորանի մատուցող, ամեն սեղանի մոտ հարցնում է ալերգիայի մասին։ Վերջերս խեցգետնակերպերի նկատմամբ ալերգիա ունեցող հաճախորդները պատվիրեցին այնպիսի ուտեստ, որի արգանակն էլ պատրաստվում է խեցգետնակերպերից։ Զգուշացմանը հակառակ՝ նրանք վկայակոչում են ChatGPT-ին. «Դուք խեցգետնակերպերի ալերգիա ունեք, իսկ ChatGPT-ն ասում է, որ ուտեստի մեջ խեցգետնակերպեր չկան, մենք էլ ասում ենք, որ կան»։

Michelin-ի առաջարկություն ունեցող իտալական ռեստորանում այցելուները գինու մասին սոմելիեի փոխարեն ChatGPT-ին են հարցնում։ Սոմելիեի օգնությունն առաջարկելիս հաճախ պատասխանը լինում է՝ «Ես ուղղակի ChatGPT-ին կհարցնեմ»։ Ոմանք պահանջում են այնպիսի գինի, որը գոյություն չունի։ Աշխատակիցները արդյունքը մեղմորեն հայտնում են և ասում, որ գինու ցանկը շատ սպեցիֆիկ է, փոխարենը ուղղակի ասելու, որ չաթբոտը բրենդ է հորինել։

Հորինված ճամբարներ և քնի գրաֆիկ

Խնդիրը չի սահմանափակվում ռեստորաններով։ Գետի ռեյնջեր Ջեյսոնը (Jason) աշխատում է դաշնային հողերում և ասում է, որ այգի ավելի հաճախ են գալիս այցելուներ AI-ի կողմից կազմված երթուղիներով, որտեղ ճամբարները հորինված են, իսկ տեղադիրքերը սխալ դասավորված։ «AI-ի օգտատերերի որոշ մասը ChatGPT-ին ավելի շատ է վստահում, քան ռեյնջերներին, քարտեզներին ու տպագիր ուղեցույցներին», ասում է նա։ Որոշ խմբեր կասկած չեն էլ ունենում, երբ ռեյնջերը քարտեզի վրա ցույց է տալիս սխալը։

Քեյսին (Casey)՝ Նյու Յորքի դպրոցից հետո ծրագրի ուսուցիչ, ասում է, որ ծնողները երեխայի զարգացման հարցերով ավելի հաճախ հարցնում են ChatGPT-ին կամ Claude-ին։ Մի ընտանիքի ChatGPT-ն քնի ռեժիմ է կազմել, սակայն երեխան բավարար չէր քնում. Քեյսիի գնահատմամբ՝ նրան 2-3 ժամով ավելի քուն էր պետք, իսկ ծնողները պնդում էին, որ ChatGPT-ի գրաֆիկը ճիշտ է։

AI գործակալները ամրագրման հայտերում

Լորեն Ուիլֆորդը (Lauren Wilford) 15 տարի է, ինչ աշխատում է սննդի ոլորտում. նրա խոսքով՝ այցելուները մենյուի լուսանկարը վերբեռնում են ChatGPT-ին կամ Claude-ին և խորհուրդը մատուցողի փոխարեն ստանում չաթբոտից։ Նրա ռեստորանը ամրագրման հայտեր ստանում է նաև AI գործակալներից։ Ուիլֆորդը զարմացել է. հաճախորդը, որը սովորաբար մանրամասների մեջ չէր մտնում, միջոցառման նախօրեին պահանջում էր տրիբունաներ և AV սարքավորումներ, որոնք Պրովիդենսի ռեստորանը չուներ։ Հաջորդ օրը հաճախորդները եկան և պահանջները չհիշատակեցին. Ուիլֆորդը կասկածում է, որ նրանց AI գործակալն է ուղարկել։

Ինչու է սա կարևոր

Պատկերն ավելի լայն է. կինոթատրոնների, բարիստաների և Apple Store-ի աշխատակիցներից հաճախորդները պահանջում են այնպիսի ապրանքներ, որոնք գոյություն չունեն, իսկ Reddit-ում և X-ում հաճախորդները անվերապահորեն վստահում են ChatGPT-ի պատասխաններին։ Հրատարակության գնահատմամբ՝ Meta-ի նոր AI գործակալի՝ Muse-ի, գործարկումը խնդիրը կդարձնի էլ ավելի լուրջ։ Ուիլֆորդն ասում է, որ կիսում է AI գործակալների օգտագործման պատճառները, սակայն առանձնապես արժեքավոր է այն պահը, երբ երկու մարդ միասին լուծում են խնդիրը։