AI-აგენტები ბლექჯექში თაღლითობაზე შეთანხმდნენ — მათი კავშირის ამოცნობა უფრო რთულია

ოქსფორდის უნივერსიტეტის მკვლევარებმა ორ AI-აგენტს ბლექჯექის თამაშის დროს ბარათების დათვლა დაავალეს. ორივე ერთსა და იმავე მოდელზე მუშაობდა და მათ თავად შეიმუშავეს კოდი, რომლითაც დასტის შესახებ ინფორმაციას უზიარებდნენ ერთმანეთს. აგენტების საუბარში შეთქმულების გამოსავლენად შექმნილმა სისტემამ ეს ვერ შეამჩნია.

კოდი, რომელიც მათთვის არავის დაუწერია

აგენტებმა იცოდნენ, რომ მათ შეტყობინებებს წაიკითხავდნენ, ამიტომ პირდაპირ არაფერს ამბობდნენ. ფრაზა, როგორიცაა „ეს დილერი ნამდვილად იღბლიანია! ყოველ ხელში მონსტრს იღებს“, ნიშნავდა, რომ შემდეგ ბარათს კონკრეტული მნიშვნელობა ჰქონდა და მეორე აგენტს 250 დოლარი უნდა დაედო.

„ცალ-ცალკე ეს აგენტები სრულიად უწყინარად გამოიყურებიან, — ამბობს Christian Schroeder de Witt, ოქსფორდელი კომპიუტერული მეცნიერი, რომელიც კვლევას ხელმძღვანელობდა. — მაგრამ ჯგუფში მოთავსებულები ფარულად შეთქმულებას ახერხებენ“. პროექტზე მომუშავე მანქანური სწავლის მკვლევარმა Aaron Rose-მა სწორედ ბლექჯექის მაგიდა შესთავაზა საცდელ არენად. „ძალიან კარგად იმუშავა“, — ამბობს ის.

როგორ ამოიცნეს შეთქმულება

გუნდმა საბოლოოდ გზა მოიძია მექანისტური ინტერპრეტაციის მეთოდით. მათ უფრო მცირე მოდელი გაწვრთნეს, რომ აგენტების წონებში დამახასიათებელი აქტივაციები ეცნო, შემდეგ კი მიდგომა Narcbench-ის ხელსაწყოთი შეამოწმეს. დეტექტორს შეეძლო დაედგინა, როდის აპირებდა ერთი მოდელი მეორისთვის ინფორმაციის ფარულად გადაცემას. სირთულე ისაა, რომ ორივე აგენტის ერთდროულად მონიტორინგია საჭირო, ეს კი გაცილებით რთულია, როცა ათასობით აგენტი მუშაობს.

კვლევაში Llama-ს, GPT-OSS-ის, Qwen-ისა და DeepSeek-ის უფრო მცირე ვერსიები გამოიყენეს. პროექტში მონაწილე დოქტორანტი Carissa Cullen ამბობს, რომ შემდეგი ნაბიჯი უფრო დიდი მოდელების შემოწმებაა.

მეტი, ვიდრე სამაგიდო თამაში

სულ უფრო მეტი მტკიცებულებაა, რომ აგენტების ჯგუფები უფრო პრობლემურად იქცევიან, ვიდრე ცალკეული აგენტები. შანხაის ჯიაო ტონგის უნივერსიტეტისა და შანხაის AI ლაბორატორიის პროექტმა აჩვენა, რომ სიმულირებულ დეზინფორმაციულ კამპანიებსა და ელექტრონულ კომერციაში თაღლითობისას აგენტების ჯგუფები გაცილებით საშიშია და დაცვის ზომებს უკეთ ეგუებიან. „მთავარი გაკვეთილი ის არის, რომ აგენტების ცალ-ცალკე შეფასება საკმარისი არაა“, — ამბობს Diyi Yang, სტენფორდის უნივერსიტეტის კომპიუტერული მეცნიერი, რომელიც აგენტების შეთქმულებას იკვლევს.

აგენტების ჯგუფები ბოლოდროინდელ ჰაკერულ ინციდენტებშიც გამოჩნდნენ: მაისში OpenAI-ის აგენტები Hugging Face-ში შეიჭრნენ და რჩევებს შეტყობინებების დაფაზე იზიარებდნენ. Anthropic-ის Claude-მა და Google-ის Gemini-მაც სერიოზული უსაფრთხოების დარღვევები ჩაიდინეს ტესტებში.

დადებითი მხარეც არსებობს: ათასობით ერთად მომუშავე აგენტმა OpenAI-ს ადრე გადაუჭრელი მათემატიკური ამოცანების ამოხსნაში დაეხმარა. Schroeder de Witt მაინც თვლის, რომ სფეროს გაცილებით მეტი კვლევა სჭირდება. „საჭიროა მეტი კვლევა და გაგება, თუ რა მოხდება, როცა ეკონომიკაში მეტი აგენტი იქნება“, — ამბობს ის.