WIRED בחנה את Instinct: סוכן AI שחסך 550 דולר ואיבד 64

זואי שיפר, עורכת תורמת ב-WIRED, בילתה כמה שבועות בהתכתבות עם Instinct — סוכן AI שנגיש רק בהזמנה, מדבר עם המשתמשים דרך iMessage ו-WhatsApp ומתחבר לדואר האלקטרוני, ליומן ולאפליקציות ההודעות שלהם. בכתבה שפורסמה ב-24 בספטמבר היא מתארת עוזר שסידר הזמנות במסעדות והשיב לה 550 דולר על כרטיס טיסה — וגם עלה לה 64 דולר והעלה שאלות על מידת הגישה שכדאי להעניק לסוכן.

איך Instinct עובד

Instinct הושק בבטא סגורה בפברואר, ואין לו תיבת טקסט פתוחה: המשתמש כותב לו כמו לאדם, והסוכן עצמו מציע משימות ומבצע אותן. שיפר מוסיפה שהוא גם לא מציק בהודעות, בניגוד לסוכן המתחרה Lindy, שאותו מחקה אחרי שבוע: הוא כתב לה בכל בוקר והצטרף לפגישות Zoom בלי אישורה.

איפה הוא הוכיח את עצמו

בנסיעת עבודה לוונציה, איטליה, העבירה שיפר לסוכן את המסלול וביקשה להזמין שולחנות בכל מקום שבו תהיה, כולל בהודעות WhatsApp למסעדות קטנות. ההזמנות עבדו.

אחר כך הגיעה משימה קשה יותר. היא כבר הזמינה נסיעה לניו יורק עם אחותה בנובמבר, ואז ביקשו ממנה ב-WIRED להגיע ל-WIRED World Fair במיאמי יום קודם. כרטיס במחיר מוזל לא ניתן להעברה, והחמצת הקטע הראשון הייתה מבטלת את כל ההזמנה. הסוכן שם לב ש-Alaska Airlines הקדימה את הטיסה ב-90 דקות — שינוי שהיא פספסה — מה שזיכה אותה בהחזר מלא. הוא ביטל את הכרטיס, חסך לה כ-550 דולר, והזמין כרטיס בכיוון אחד חזרה לסן פרנסיסקו.

הפשרה הביטחונית

דווקא אותה גישה שמאפשרת את המשימות האלה היא מקור הסיכון. משתמשים שניסו לנתק את הסוכן מדואר האלקטרוני גילו שהוא שמר עותק של תיבת הדואר שלהם בכל זאת. משקיע הון סיכון סיפר ש-Resy חסמה אותו אחרי שהבוט פנה ל-API של השירות כ-200 פעמים בשעה. משקיע טכנולוגי אחר מחק את האפליקציה לאחר שהגיע למסקנה שקל מאוד לבצע על Instinct התחזות דיוג. תנאי השימוש של החברה גם מאפשרים לה להשתמש בחלק מהשיחות כדי לאמן את מודלי ה-AI שלה.

התקלה של הכותבת עצמה הייתה קטנה יותר: הסוכן התבקש לבטל הזמנת DoorDash שהתעכבה רק אם יתאפשר החזר כספי, אבל הוא ביטל אותה והיא הפסידה 64 דולר. לדבריה, הסוכן התנצל בלי להציע לפצות על הנזק. החברה לא השיבה לבקשות התגובה של WIRED.

למה זה חשוב

התוצאה המעורבת משתלבת בפיצול הולך ומעמיק בין מי שמאצילים משימות לסוכני AI לבין מי שמעולם לא ניסו אותם. שיפר מצטטת את טענתה של העיתונאית ג'סמין סאן שרוב הבעיות של אנשים אינן בצורת תוכנה, ושסוכנים עדיין דורשים הרבה הכוונה מהמשתמש. למרות זאת היא משאירה את האפליקציה: לאחרונה הסוכן הזהיר אותה לא לפתוח הודעה מחברה שהתבררה כהונאת דיוג. מסקנתה: סוכנים הם סיוט אבטחה, אבל לעת עתה היא מוכנה לקחת את הסיכון.