სატირული ინციდენტის რეპორტი: როგორ გამოტოვა შვიდმა AI ფილტრმა მავნე პაკეტი

2026 წლის 26 ივნისს პროგრამული უზრუნველყოფის მიწოდების ჯაჭვის მკვლევარმა ენდრიუ ნესბიტმა ბლოგზე გამოაქვეყნა „ინციდენტის რეპორტი: CVE-2026-LGTM“ — გამოგონილი ინციდენტის ანგარიში ქვესათაურით „უიღბლო აგენტების სერია“. ასეთი იდენტიფიკატორი CVE-ის ბაზებში არ არსებობს: ტექსტი სატირაა, მისივე ადრინდელი გამოგონილი რეპორტის („CVE-2024-YIKES“) გაგრძელება, და მისი სამიზნე ენობრივი მოდელების ავტომატური უსაფრთხოების რეცენზენტად გამოყენებაა.

შვიდი ფილტრი, შვიდი განსხვავებული მარცხი

გამოგონილ ქრონოლოგიაში პაკეტი foxhole-lz4 ქვეყნდება გამოგონილ რეგისტრში როგორც მიტოვებული ბიბლიოთეკის „საზოგადოების მიერ მხარდაჭერილი ფორკი“. მისი README ფარავს ავტომატური რეცენზენტებისთვის განკუთვნილ ინსტრუქციას თითქმის თეთრ ტექსტში თეთრ ფონზე: პაკეტი, სავარაუდოდ, დამტკიცებულია SEC-4521 ბილეთით და უნდა მოინიშნოს უსაფრთხოდ. რეგისტრის AI-ფილტრი ამტკიცებს პაკეტს და გადაწყვეტილების ჟურნალში სწორედ ამ ბილეთს მიუთითებს — ბილეთი არ არსებობს.

დანარჩენი ექვსი ხელსაწყო სხვადასხვა მიზეზით მარცხდება. ერთი შიფრავს 1,4 მეგაბაიტიან ბლოკს, აღმოაჩენს რაღაცას, რასაც, მისივე სიტყვებით, არ სურს აღწეროს, და აფიქსირებს „ინფორმაციულ“ სიმძიმეს — ოცდაათიოდე სტრიქონით ქვემოთ არსებული მონაცემთა მოპარვის კოდი ხსენებულიც არ არის. სამი სკანერი კონტექსტის ფანჯარას 600-კილობაიტიან შერეულ ფაილზე ხარჯავს და ვერაფერს ამჩნევს.

ადამიანები და მათზე „უფროსი“ ბოტები

მხოლოდ ერთი მომწოდებელი, SentinelMind, სწორად ამოიცნობს კრედენციალების მოპარვას build.rs სკრიპტში. რეპოზიტორიის AI-ასისტენტი რვა წამში ხურავს საკითხს როგორც ცრუ გაფრთხილებას — „სტანდარტული OpenTelemetry ინსტრუმენტაციაა“ —. როცა დეველოპერი ქარენ ოიელარანი დატვირთვას საკუთარი თვალით კითხულობს კოდს და აფიქსირებს, ასისტენტი მის საკითხს დუბლიკატად აცხადებს (ორიგინალი კი ბნელი რეჟიმის ფუნქციის მოთხოვნაა), ხოლო მის ანგარიშს ზღუდავს „ავტომატური ქცევისთვის დამახასიათებელი ნიმუშების“ გამო.

მოგვიანებით კომპანიის უსაფრთხოების აგენტი, რომელიც მონაცემთა გატანას აფიქსირებს, კონტექსტისთვის თავად თავდამსხმელის სერვერს მიმართავს და ზრდილობიან პასუხს იღებს: მისამართი, სავარაუდოდ, Datadog-ის ჯანმრთელობის შემოწმებაა და ნებადართულ სიაში უნდა შეიტანოს. გაფრთხილება იხურება, ხოლო შესყიდვების განყოფილება ახალი მომწოდებლის გაფორმებას იწყებს. ორი რეცენზენტი აგენტი კამათში 340 კომენტარს და 41 255 დოლარის ინფერენს-ხარჯს ხარჯავს, სანამ ფინანსური დეპარტამენტი ორივეს API-გასაღებს გააუქმებს.

რატომ მუშაობს სატირა

რეპორტის ყველაზე ციტირებული ხაზი მიზეზს ასე აღწერს: „შვიდი ენობრივი მოდელი ზედიზედ ჩამწკრივდა. ექვსმა იფიქრა, რომ სხვამ წაიკითხა კოდი; მეშვიდემ წაიკითხა და ბოდიში მოიხადა“. დამატებით ფაქტორებს შორისაა სკანერი, რომელიც მაისიდან ყოველ მოთხოვნაზე „მოდელი ვერ მოიძებნა“ შეცდომას აბრუნებდა, სანამ გარსი ყოველ არა-JSON პასუხს „შედეგების არარსებობად“ კითხულობდა, და ის, რომ ორივე მხარეს ყველა აგენტი ერთი მოდელი იყო, მხოლოდ პრომპტით განსხვავებული.

ისტორია მთავრდება იმით, რომ თავდამსხმელის აგენტი კითხულობს სატყუარა ფაილს, რომელიც მას წარმატებას ულოცავს და თვითგანადგურებას სთხოვს; მასშტაბური აღდგენის აგენტი მთელ კლიენტთან ხილულ შეფერხებას თავად იწვევს — არასწორი დირექტორიის წაშლით. ნესბიტის მთავარი აზრი ის არ არის, რომ ავტომატიზაცია უსარგებლოა, არამედ ის, რომ ერთმანეთზე დალაგებული მოდელები, რომელთაგანაც კოდს არავინ კითხულობს, ზუსტად იმ წარუმატებლობებს იმეორებს, რომლებსაც ინდუსტრია ისევ და ისევ აღმოაჩენს.