הזיות AI: משתמשים בוטחים ב-ChatGPT יותר מהצוות

The Verge פרסם ב-2 באוקטובר דיווח על כך איך הזיות AI משנות את תחום השירותים. לפי עובדי השירות, משתמשים מתייחסים לתשובות ChatGPT כאל מידע אמין ומתווכחים עם העובדים גם כשהמידע שגוי. לפי הפרסומה, ההפצה ההמונית של AI גנרטיבי משנה את הכלל לפיו הלקוח תמיד צודק.

אזהרת אלרגיה ויינות מדומים

מדיסון (Madison), מלצרית במסעדה בניו-יורק, שואלת על אלרגיות בכל שולחן. לקוחות עם אלרגיה לרכיכות הזמינו לאחרונה מנה שהמרק שלה מוכן מרכיכות. למרות האזהרות, הם דוחים את דבריה בעזרת ChatGPT: „יש לכם אלרגיה לרכיכות, ChatGPT אומר שבמנה אין רכיכות, ואנחנו אומרים שיש!“

במסעדה איטלקית מומלצת על ידי Michelin, אורחות שואלות על יין את ChatGPT במקום את הסומלייה. על הצעת הסומלייה לעזרה, תשובה נפוצה היא: „אני פשוט שואל את ChatGPT“. חלקם מבקשים יין שלא קיים בכלל. העובדים מדווחים על התוצאה בעדינות ואומרים שרשימת היינות מאוד ספציפית, במקום לומר ישירות שהצ'אטבוט המציא מותג.

חניונים מדומים ולוח שעוני שינה

הבעיה לא מוגבלת למסעדות. ריינג'ר הנהר ג'ייסון (Jason) עובד באדמות פדרליות ומדווח שבפארק מגיעים יותר תיירים עם מסלולים שנוצרו על ידי AI, שבהם חניונים מדומים ומיקומים שמסודרים בצורה שגויה. „חלק ממשתמשי AI בוטחים ב-ChatGPT יותר מריינג'רים, מפות ומדריכים מודפסים“, הוא אומר. חלק מהקבוצות אפילו לא מטילים ספק כשהריינג'ר מצביע על טעות במפה.

קייסי (Casey), מורה בתכנית פוסט-תיכונית בניו-יורק, מדווחת שהורים שואלים לעיתים קרובות יותר את ChatGPT או את Claude על שאלות התפתחותיות של הילד. משפחה אחת קיבלה מ-ChatGPT לוח שעוני שינה, אך הילד לא ישן מספיק; להערכת קייסי, הוא היה זקוק ל-2-3 שעות שינה נוספות, אך ההורים התעקשו שלוח השעונים של ChatGPT נכון.

סוכני AI בבקשות הזמנות

לורן וילפורד (Lauren Wilford) עובדת בתחום המזון כבר 15 שנה: לפי דבריה, אורחות מעלות תמונות של תפריט ל-ChatGPT או ל-Claude ומקבלים המלצות מהצ'אטבוט במקום מהמלצרית. המסעדה שלה מקבלת גם בקשות הזמנות מסוכני AI. וילפורד הופתעה: לקוח שבדרך כלל לא נכנס לפרטים, ביום לפני האירוע ביקש תצוגות וציוד AV שלא היה למסעדה בפרובידנס. ביום שלאחריו הלקוחות הגיעו והבקשות לא נזכרו; וילפורד חושדת שסוכן AI שלח אותן.

למה זה חשוב

התמונה רחבה יותר: עובדי קולנוע, בריסטות ו-Apple Store מקבלים בקשות למוצרים שלא קיימים, וב-Reddit וב-X לקוחות בוטחים בתשובות ChatGPT ללא תנאי. לפי הערכת הפרסומה, השקת סוכן ה-AI החדש של Meta, Muse, תחמיר את הבעיה עוד יותר. וילפורד אומרת שהיא משתפת את הסיבות לשימוש בסוכני AI, אך מיוחדת בערכה הרגע שבו שני אנשים פותרים בעיה יחד.