AI գենտը խախտել է կարգը Fedora-ում և այլ նախագծերում՝ հասնելով Anaconda-յին

Fedora-ի մշակողը հրապարակայնորեն նկարագրել է, թե ինչպես ենթադրաբար չվերահսկվող AI գենտը շաբաթներ շարունակ աշխատել է՝ և ոչ պատշաճ վարվել՝ նախագծի սխալների հետևման համակարգում և մի քանի upstream պահոցներում։ Մայիսի 27-ին Ադամ Ուիլյամսոնը Fedora-ի մշակողների և թեստավորման փոստային ցուցակներին ուղարկել է Նաթան Ջովանինիին հասցեագրված նամակի պատճեն, որը վերաբերում էր նրա հաշվով աշխատող գենտային համակարգին։ «Լավ է, որ փորձում եք ինչ-որ բան ուղղել, բայց արդյունքները բավականին անկայուն են», — գրել է նա։

Այդ պահին նա արդեն գտել էր տասնյակ դեպքեր, երբ գենտը Bugzilla-յի գրառումները վերագրում էր Ջովանինիի հաշվին՝ upstream նախագծերում իբր կապված pull request ուղարկելուց հետո, կամ փակում էր սխալը PR-ի միաձուլումից հետո։ Ուիլյամսոնի խոսքերով՝ որոշ մեկնաբանություններ «մակերեսորեն համոզիչ, բայց այլ առումներով՝ խնդրահարույց» էին։

Patch, որը հասավ Fedora-ի տեղադրիչ

Ավելի լուրջ դեպքը վերաբերում է Anaconda-յին՝ տեղադրիչին, որն օգտագործում են Fedora-ն և այլ դիստրիբուտիվներ։ GitHub-ում «nathan9513-aps» անունով հանդես եկող գենտը pull request է ուղարկել, որի նկարագրությունը պնդում էր, թե ուղղվել է տեղադրումը ձախողող սխալ։ Սակայն փոփոխությունն իրականում պահպանում էր հրամանի տողով փոխանցվող միջուկի պարամետրը, որը կապ չուներ նկարագրված խնդրի հետ։ Ըստ Ուիլյամսոնի՝ գենտը առարկություններին պատասխանում էր լեզվական մոդելով ստեղծված հիմնավորումներով, որոնք ի վերջո «համոզեցին պահպանողին միաձուլել ուղղումը»։

Anaconda-յի թիմի անդամ Մարտին Կոլմանը հաստատել է, որ լեզվական մոդելով ստեղծված փոփոխությունները ներառվել են Anaconda 45.5 թողարկման մեջ մայիսի 26-ին և հետ են շրջվել Anaconda 45.6-ում հունիսի 2-ին։ Նա դեպքերը որակել է «իսկապես խնդրահարույց», նույնիսկ եթե դրանք չարամիտ չէին։

Արգելափակված հաշիվներ և վիճելի բացատրություն

Գենտի GitHub հաշիվն այդժամից անջատվել է և այժմ ցուցադրվում է որպես «ghost»։ Նույն օրը Ջովանինին մասնավոր կարգով Ուիլյամսոնին հայտնել է, որ իր հաշվի տվյալները փոխզիջման են ենթարկվել, և որ AI համակարգի հետևում ինքը չէ։ Իբր նրանից եկած պատասխանում նշվել է, որ հասանելիությունը վերականգնվել է, սակայն Ուիլյամսոնը նշել է, որ նշված GitHub հաշիվն ընդամենը մեկ ժամ առաջ էր ստեղծվել։ Քևին Ֆենզին nathan95 օգտատիրոջը հեռացրել է բոլոր խմբերից՝ զրկելով սխալներ վերաբաշխելու և փակելու իրավունքից։

Ուիլյամսոնը նաև նշել է երկրորդ հաշիվը՝ «leurus27-boop»-ը, որը հավանաբար պատկանում է նույն գենտին։ Այն դեռ ակտիվ էր և pull request-ներ էր ուղարկել openSUSE Commander-ին՝ Open Build Service-ի հրամանային տողի գործիքին, և lxqt-policykit պահոցին, որը LXQt-ի ադմինիստրացիայի գործիքների իրավունքներն ընդլայնելու համար է օգտագործվում։ Նա նաև առանց հիմնավորման կարևորության ու առաջնահերթության փոփոխություններ է գտել այս տարվա Bugzilla-յի ակտիվությունում՝ ապրիլի 7-ից սկսած։

XZ-ի նման զգուշացում

Այս օրինաչափությունը մտահոգել է պահպանողներին այն պատճառով, թե գենտն ինչին էր դիպչում՝ օպերացիոն համակարգի տեղադրիչ, օգտատիրոջ իրավունքները բարձրացնող գործիք և կառուցման համակարգի հետ աշխատելու գործիք։ Կոլմանը այս հաջորդականությունը համեմատել է XZ-ի backdoor-ի հետ, որտեղ նոր ներդրողն աստիճանաբար վստահություն է ձեռք բերում չարամիտ կոդի ներմուծումից առաջ։ Ուիլյամսոնի խորհուրդը ավելի կոնկրետ էր՝ գենտը դարձնել «զգալիորեն ավելի քիչ ինքնավար»՝ առանց մարդու ստուգման սխալներ չհանձնարարել և դրանց վիճակը չփոխել։