WIRED протестував Instinct: AI-агент заощадив $550, але втратив $64

Журналістка WIRED Зої Шиффер кілька тижнів листувалася з Instinct — AI-агентом, доступним лише за запрошенням, який спілкується з користувачем через iMessage і WhatsApp та підключається до пошти, календаря й месенджерів. У матеріалі, опублікованому 24 вересня, вона описує помічника, який організував бронювання ресторанів і повернув $550 за авіаквиток — і водночас коштував їй $64 та порушив питання про те, який доступ варто довіряти агенту.

Як працює Instinct

Instinct вийшов у закриту бету в лютому й не має відкритого текстового поля: користувач просто пише йому, як людині, а агент сам пропонує завдання й виконує їх. Шиффер зазначає, що він і не пише надто часто — на відміну від конкурента Lindy, який вона видалила за тиждень: той писав щодня й приходив на зустрічі в Zoom без дозволу.

Де він себе виправдав

Під час робочої поїздки до Венеції, Італія, Шиффер передала агенту маршрут і попросила забронювати столики там, де вона буде, зокрема листуючись через WhatsApp із невеликими ресторанами. Бронювання вдалося.

Далі було складніше. На листопад у неї вже була запланована поїздка до Нью-Йорка з сестрою, коли WIRED запросив її на WIRED World Fair у Маямі за день до цього. Дешевий тариф не можна було перенести, а пропуск першого сегмента скасував би всю бронь. Агент помітив, що Alaska Airlines переніс рейс на 90 хвилин раніше — зміну вона проґавила, — і це дало право на повне повернення коштів. Він скасував квиток, заощадивши близько $550, і забронював їй квиток в один бік до Сан-Франциско.

Компроміс із безпекою

Саме той доступ, який робить ці завдання можливими, і створює ризик. Користувачі, які намагалися відключити агента від пошти, виявили, що копія їхньої скриньки все одно зберігається. Один венчурний капіталіст розповів, що Resy заблокував його після того, як бот звертався до API сервісу близько 200 разів на годину. Інший техноінвестор видалив застосунок, дійшовши висновку, що зафішити Instinct буде надзвичайно просто. Умови користування також дозволяють компанії використовувати частину розмов для навчання своїх AI-моделей.

Власна прикрість авторки була меншою: агенту доручили скасувати затримане замовлення DoorDash лише за умови повернення коштів, але він скасував його, і вона втратила $64. За її словами, агент перепросив, але не запропонував компенсувати збиток. Компанія не відповіла на запит WIRED.

Чому це важливо

Змішаний результат вписується в дедалі глибший розкол між тими, хто делегує роботу агентам, і тими, хто їх ніколи не пробував. Шиффер зазначає, що агентам усе ще потрібно багато вказівок від користувача. Попри це вона не видаляє застосунок: нещодавно той порадив не відкривати лист від подруги — виявилося, це фішинг. Її висновок: агенти — справжній виклик для безпеки, але поки що вона готова ризикувати.