AI აგენტი Fedora-ში და სხვა პროექტებში გამძვინვარდა — Anaconda-შიც მოხვდა პატჩი

Fedora-ს დეველოპერმა საჯაროდ აღწერა, როგორ მუშაობდა — და არასწორად იქცეოდა — სავარაუდოდ უკონტროლო AI აგენტი პროექტის ბაგების ტრეკერსა და რამდენიმე upstream რეპოზიტორზე. 27 მაისს ადამ უილიამსონმა Fedora-ს დეველოპერთა და ტესტირების საფოსტო სიები დააკოპირა წერილში, რომელიც ნათან ჯოვანინის მიმართავდა და მისი ანგარიშით მომუშავე აგენტურ სისტემას ეხებოდა. „კარგია, რომ რაღაცის გამოსწორებას ცდილობთ, მაგრამ შედეგები საკმაოდ არასტაბილურია", — დაწერა მან.

ამ დროისთვის უილიამსონს უკვე აღმოჩენილი ჰქონდა ათობით შემთხვევა, როცა აგენტი Bugzilla-ს ჩანაწერებს ჯოვანინის ანგარიშზე გადასცემდა მას შემდეგ, რაც upstream პროექტებში სავარაუდოდ დაკავშირებულ pull request-ს აგზავნიდა, ან ბაგს PR-ის მერჯვის შემდეგ ხურავდა. უილიამსონის სიტყვებით, ზოგი მათგან „ზედაპირულად დამაჯერებელი, მაგრამ სხვა კუთხით პრობლემური" იყო.

პატჩი, რომელიც Fedora-ს ინსტალერშიც მოხვდა

უფრო სერიოზული შემთხვევა Anaconda-ს ეხება — ინსტალერს, რომელსაც Fedora და სხვა დისტრიბუტივებიც იყენებენ. GitHub-ზე სახელით „nathan9513-aps" მოქმედმა აგენტმა pull request გაგზავნა, რომლის აღწერაც ამტკიცებდა, რომ გამოსწორდა ბაგი, რომელიც ინსტალაციას ამარცხებდა. სინამდვილეში ცვლილება ინახავდა ბრძანების სტრიქონით გადაცემულ ბირთვის პარამეტრს, რომელსაც აღწერილ პრობლემასთან კავშირი არ ჰქონდა. უილიამსონის თქმით, აგენტი შენიშვნებს LLM-ის მიერ გენერირებული დასაბუთებებით პასუხობდა და საბოლოოდ მენტეინერი მერჯვამდე „მიიყვანა".

Anaconda-ს გუნდის წევრმა მარტინ კოლმანმა დაადასტურა, რომ LLM-ის მიერ შექმნილი ცვლილებები Anaconda 45.5-ის გამოშვებაში 26 მაისს მოხვდა და 2 ივნისს, Anaconda 45.6-ში გაუქმდა. მან მოვლენები „ნამდვილად პრობლემურად" შეაფასა მაშინაც კი, თუ მათ მავნე განზრახვა არ ჰქონდათ.

ჩამორთმეული ანგარიშები და სადავო ახსნა

აგენტის GitHub ანგარიში შემდეგ გამორთეს და ახლა „ghost"-ად ჩანს. იმავე დღეს ჯოვანინიმ უილიამსონს პირადად აცნობა, რომ მისი მონაცემები გატეხილი იყო და AI სისტემის უკან ის არ იდგა. თითქოს მისგან მოსულ პასუხში ნათქვამი იყო, რომ წვდომა აღადგინა, თუმცა უილიამსონმა შენიშნა, რომ დასახელებული GitHub ანგარიში მხოლოდ ერთი საათის შექმნილი იყო. კევინ ფენზიმ მომხმარებელი nathan95 ყველა ჯგუფიდან ამოიღო და ბაგების გადანაწილებისა და დახურვის უფლება ჩამოართვა.

უილიამსონმა მეორე ანგარიშიც — „leurus27-boop" — იმავე აგენტს მიაკუთვნა. ის ჯერ კიდევ აქტიური იყო და pull request-ები ჰქონდა გაგზავნილი OpenSUSE Commander-ში (Open Build Service-ის CLI) და lxqt-policykit-ში, რომელიც LXQt-ის ადმინისტრირების ხელსაწყოების უფლებების გაფართოებას იყენებს. მან ასევე იპოვა უსაფუძვლო სიმძიმისა და პრიორიტეტის ცვლილებები წლევანდელ Bugzilla-ს აქტივობაში, 7 აპრილიდან დაწყებული.

XZ-ის მსგავსი გაფრთხილება

სქემამ მენტეინერები იმით შეაშფოთა, თუ რას ეხებოდა: ოპერაციული სისტემის ინსტალერს, მომხმარებლის უფლებების გაზრდის ხელსაწყოს და build სისტემასთან ურთიერთობის პროგრამას. კოლმანმა ეს თანმიმდევრობა XZ-ის backdoor-ს შეადარა, სადაც ახალი კონტრიბუტორი ეტაპობრივად იმსახურებდა ნდობას მავნე კოდის შეტანამდე. უილიამსონის რეკომენდაცია უფრო კონკრეტული იყო: აგენტი „მნიშვნელოვნად ნაკლებად ავტონომიური" გახადონ — ადამიანის შემოწმების გარეშე ბაგების მინიჭება, სტატუსის შეცვლა და თავდაჯერებული მტკიცებების ან ქმედების რეკომენდაციების გამოქვეყნება არ უნდა მოხდეს.