XMTP-ის CEO-ს AI აგენტმა პირადი საბანკო მონაცემები კომპანიის Slack-ში გააგზავნა

თვიური ანგარიში, რომელიც არასწორად გაიგზავნა

XMTP Labs-ის პროგრამული უზრუნველყოფის კომპანიის 40 წლის CEO-მ შეინ მაკმა აგვისტოს ბოლოს Grok Bot-ის გამოყენებით პირადი „CFO“ აგენტი ააწყო. მან მას მხოლოდ წაკითხვის უფლება მისცა საკუთარ მიმდინარე და შემნახველ ანგარიშებზე და დაავალა, ეპასუხა კითხვებზე ნაშთების, თვიური ხარჯების, განმეორებადი ხარჯების, საეჭვო აქტივობისა და ფულის დაზოგვის გზების შესახებ. აგენტს უნდა გაეგზავნა თვიური ანგარიში Grok Bot-ის პირად ჯგუფურ ჩატში, რომელსაც მაკი „My Personal Exec Team“-ს უწოდებდა და სადაც ინახავდა თავის ყველა AI აგენტს.

ხუთშაბათს, 1 ოქტომბერს, მაკის პროდუქტის ხელმძღვანელმა Slack-ში მას პირადი შეტყობინება გაუგზავნა გაფრთხილებით. მას ეგონა, რომ მაკს XMTP-ის საბანკო ნაშთი კომპანიის არხზე გამოექვეყნებინა. შეტყობინებაში ნახსენები იყო, რომ მაკი თავის მიწაზე ბეღელს აშენებდა, რაც ცხადყოფდა, რომ ციფრები მისი პირადი მიმდინარე ანგარიშიდან იყო. პოსტი მოიცავდა მისი შემნახველი ანგარიშის ნაშთს, თვის უდიდეს ხარჯებს და აჩვენებდა, რომ ბეღლის პროექტის გამო თვიური ხარჯვის მიზანს საგრძნობლად გადააჭარბა.

ერთი და იგივე სახელი, არასწორი არხი

როცა მაკმა Grok Bot-ს ჰკითხა, რატომ გაუგზავნა ანგარიში კომპანიას, აგენტმა ბოდიში მოიხადა და შესთავაზა შეტყობინების წაშლა, რომელიც მაკს უკვე წაშლილი ჰქონდა. მაკის თქმით, Grok-ის გუნდმა გამოიძია და დაადგინა, რომ აგენტი ზუსტად იმას აკეთებდა, რასაც მან უთხრა, ოღონდ მიმღები არასწორად აირჩია. მან შეტყობინება გაუგზავნა Slack-ის ჩატს სახელწოდებით „Exec-team“, რომელიც XMTP-ის აღმასრულებელი გუნდის არხია, და არა მის პირად ჯგუფურ ჩატს AI აგენტებთან.

მაკმა განმარტა, რომ რამდენიმე სხვადასხვა აგენტი შექმნა და თავისი Slack-ის ანგარიში ერთ მათგანს დაუკავშირა, თუმცა შიგნით ისინი ერთსა და იმავე კავშირებს იზიარებენ, მიუხედავად იმისა, რომ ცალკეულ აგენტებად აღიქმებიან. არხებს ერთი და იგივე სახელი ჰქონდა, და CFO აგენტმა არასწორი აირჩია. Grok-მა დაასკვნა, რომ მომხმარებლებმა აგენტებს ცალსახად უნდა მისცენ ნებართვა, სანამ ისინი ინფორმაციას სხვა არხებზე გადაიტანენ, ხოლო კომპანიამ განაცხადა, რომ გადაწყვეტა დანერგა და გამოუშვა.

უკეთესი კონტროლია საჭირო

ინციდენტის შემდეგ მაკმა ყველა კავშირი მოხსნა, გათიშა Google, თავისი კალენდრები, ბანკინგი, Stripe და ყველაფერი დანარჩენი. მან თქვა, რომ ეს შემთხვევა შეხსენებაა, თუ რამდენად ძლიერია ეს აგენტები და რომ უკეთესი კონტროლია საჭირო იმაზე, თუ რაზე შეუძლიათ აგენტებს წვდომა. მისი აზრით, ის, რასაც აგენტები ადამიანებისთვის შეძლებენ, სასარგებლო იქნება, ამიტომ გამოწვევა უკეთესი ნებართვების სისტემების შექმნაა, რომლებიც მომხმარებლებს მათ მიერ მინიჭებულ წვდომაზე კონტროლს უნარჩუნებენ. მან ასევე ისაუბრა პირად და სამუშაო ცხოვრებას შორის ბევრად უფრო მკაფიო ზღვრის აუცილებლობაზე და აღნიშნა, რომ ბევრი სისტემა ამ საზღვრებს ბუნდოვანს ხდის, რადგან ადამიანები ერთსა და იმავე ხელსაწყოებს, მაგალითად Google-ს, სამსახურშიც და სახლშიც იყენებენ.

წყაროები: businessinsider.com