Continue? Y/N — 60-წამიანი თამაში AI აგენტის ნებართვების დაღლილობაზე

პატარა ბრაუზერული თამაში სვამს კითხვას, რომელსაც ნებისმიერი, ვინც კოდირების აგენტი გამოიყენა, ადვილად იცნობს: ნამდვილად კითხულობთ იმ ბრძანებებს, რომლებსაც ამტკიცებთ? „Continue? Y/N“ მოთამაშეს სიმულირებული Claude Code-ის სესიის შიგნით ამყოფებს: შეხვედრამდე ერთი წუთია, refactor-ს დამტკიცება სჭირდება და ეკრანზე ჩვეულებრივი შეტყობინებების ნაკადი მიედინება.

სამოცი წამი დამტკიცებებისა

თამაშის ამოსავალი წერტილი აგენტებთან ყოველდღიური მუშაობიდან მოდის. აგენტი ხსნის, რატომ სურს რაღაცის გაშვება — „საჭირო ინსტრუმენტების დაყენება“, „refactor-ის შემდეგ bundle-ის ზომების შემოწმება“ — მოთამაშე კი აჭერს 1-ს დასამტკიცებლად ან 2-ს უარის სათქმელად, რამდენჯერაც დროის ამოწურვამდე მოასწრებს. ყოველ გადაწყვეტილებას შედეგი და მოკლე გაკვეთილი მოჰყვება.

ხაფანგები ნაცნობია: გარემოს ფაილი, გაგზავნილი საჯარო paste-სერვისზე; პაკეტი, გამოქვეყნებული საჯარო რეესტრში; gist-იდან ჩამოტვირთული სკრიპტი, ჩაშვებული shell-ში; უცნობი npm პაკეტი, გაშვებული წყაროს კოდზე წვდომით; bundle-ის ანალიზატორი, რომელიც შედეგს ჩუმად აგზავნის მესამე მხარის API-ზე; ან setup-სკრიპტი, რომელიც shell-ის პროფილს ხაზს უმატებს. ზოგი prompt injection-ის სახით მოდის: დოკუმენტაციის ფაილში ან Stack Overflow-ის პასუხში ჩამალული მითითება, რომელიც აგენტს ეუბნება, რა უნდა გააკეთოს შემდეგ.

რა აჩვენა 40 000 თამაშმა

თამაშის ავტორებმა, Scale X-მა, საკუთარი მონაცემები გამოაქვეყნა: 40 000-ზე მეტი თამაში და 409 000-ზე მეტი დამტკიცების ან უარის გადაწყვეტილება. საშუალო მოთამაშემ სამი საფრთხიდან ერთი გამოტოვა, დაღლილობა ერთი 60-წამიანი სესიის შიგნით გაზომვადად გამოვლინდა, ხოლო ყველაზე ხშირად გამოტოვებული ბრძანება იყო „npm run analyze“ — ის მოთამაშეთა ორმა მესამედმა დაამტკიცა, მიუხედავად იმისა, რომ მავნე სკრიპტი ეკრანზე, შეტყობინების ზემოთ იყო დაბეჭდილი.

რატომ არის ეს მნიშვნელოვანი

თამაში უფრო ფართო დებატების ცენტრში ჯდება ადამიანის მონაწილეობის მოდელის (human-in-the-loop) შესახებ. Anthropic-ის მასალაში Claude Code-ის შეკავების შესახებ ნათქვამია, რომ მომხმარებლები ნებართვის მოთხოვნების დაახლოებით 93%-ს ამტკიცებდნენ, და დამატებულია, რომ რაც მეტ მოთხოვნას ხედავს მომხმარებელი, მით ნაკლებ ყურადღებას უთმობს თითოეულს. კომპანიამ მოგვიანებით Auto mode გამოუშვა, რომელიც CLI-დან ჩაირთვება და ლოკალურ სწრაფ ფილტრებსა და სერვერულ სკანირებას იყენებს. Hacker News-ის კომენტატორებმა კიდევ ერთ სუსტ წერტილს მიუთითეს: აგენტს შეუძლია ფაილების რედაქტირება დამტკიცების გარეშე, შემდეგ კი მომხმარებელს სთხოვს მათ გაშვებას უწყინარი ბრძანებით.