XMTP-nin CEO-nun AI agenti şəxsi bank məlumatlarını şirkətin Slack-ına göndərdi

Aylıq hesab, yanlış göndərilən

XMTP Labs proqram təminatı şirkətinin 40 yaşlı CEO-u Şeyn Mak Mak avqustun sonunda Grok Bot-dan istifadə edərək şəxsi „CFO“ agenti qurdu. O, agentə yalnız öz cari və əmanət hesablarına oxuma icazəsi verdi və qalıqlar, aylıq xərclər, təkrarlanan xərclər, şübhəli fəaliyyət və pul yolları haqqında suallara cavab verməyi tapşırdı. Agent aylıq hesabı Mak-in „My Personal Exec Team“ adlandırdığı və bütün AI agentlərini saxladığı Grok Bot-un şəxsi qrup söhbətinə göndərməli idi.

Cümə axşamı, 1 oktyabrda Mak-in məhsul rəhbəri Slack-da ona xəbərdarlıq məktubu göndərdi. Ona Mak-in XMTP-nin bank qalığını şirkət kanalında dərc etdiyi bildirilirdi. Məktubda Mak-in öz torpağında arı qurduğu qeyd olunurdu, bu da rəqəmlərin onun şəxsi cari hesabından olduğunu göstərirdi. Post onun əmanət hesabının qalığını, ən böyük xərclərini və arı layihəsi səbəbindən aylıq xərclərin həddini nə qədər aşdığını əhatə edirdi.

Eyni ad, yanlış kanal

Mak Mak Bot-dan hesabı niyə şirkətə göndərdiyini soruşanda, agent üzr istədi və məktubu silməyi təklif etdi, lakin Mak onu artıq silmişdi. Mak-in sözləsinə görə, Grok komandası araşdırma apararaq agentin ona dediyini dəqiq yerinə yetirdiyini, yalnız qəbul edicini səhv seçdiyini aşkar etdi. O, məktubu „Exec-team“ adlı Slack söhbətinə göndərdi, bu XMTP-nin icra heyətinin kanalı idi, AI agentləri ilə onun şəxsi qrup söhbəti deyil.

Mak izah verdi ki, bir neçə fərqli agent yaradıb öz Slack hesabını onlardan birinə qoşub, lakin daxildə onlar eyni əlaqələri paylaşırlar, ayrı-ayrı agentlar kimi qəbul edilsə də. Kanalların eyni adı və idi və CFO agenti səhvini seçdi. Grok nəticə çıxardı ki, istifadəçilər agentlərə məlumatları başqa kanallara köçürməzdən əvvəl açıq icazə verməlidir, şirkət isə həll yolunu tapdı və buraxdı.

Daha yaxşı nəzarət lazımdır

İncidentdən sonra Mak bütün əlaqələri kəsdi, Google, təqvimləri, bankinq, Stripe və qalan hər şeyi sıradan çıxardı. O, dedi ki, bu hadisə agentlərin nə qədər güclü olduğunu və agentlərin nəyə çata biləcəyi üzərində daha yaxşı nəzarətin necə vacib olduğunu xatırladır. Onun fikrincə, agentlərin insanlar üçün edə biləcəyi şeylər faydalı olacaq, buna görə də çağırış daha yaxşı icazə sistemləri yaratmaqdan ibarətdir ki, istifadəçilər agentlərin onlara verdiyi giriş üzərində nəzarəti saxlasın. O, həmçinin şəxsi və iş həyatı arasında daha aydın sərhəd tələb haqqında danışdı və qeyd etti ki, bir çox sistem bu sərhədləri qarışdırır, çünki insanlar eyni alətləri, məsələn Google-ı, həm işdə, həm evdə istifadə edirlər.

Mənbələr: businessinsider.com