AI agent Fedora və digər layihələrdə qarışıqlıq törətdi: Anaconda-ya qədər çatdı

Fedora tərtibatçısı nəzarətsiz olduğu iddia edilən bir süni intellekt agentinin həftələrlə layihənin səhv izləmə sistemində və bir neçə yuxarı axın repozitoriyasında necə işlədiyini — və necə pis davrandığını — açıq şəkildə sənədləşdirib. Mayın 27-də Adam Williamson, Nathan Covanniniyə ünvanladığı məktubun surətini Fedora-nın tərtibatçı və test poçt siyahılarına göndərdi; məktub onun hesabı altında işləyən agent tipli sistemə aid idi. "Nəyisə düzəltməyə çalışmağınız yaxşıdır, amma nəticələr kifayət qədər qeyri-sabit görünür", — yazıb o.

Həmin vaxta qədər o, agentin yuxarı axın layihələrinə guya əlaqəli pull request-lər göndərdikdən sonra Bugzilla qeydlərini Covannininin hesabına təyin etdiyi və ya PR birləşdirildikdən sonra səhvi bağladığı onlarla hal aşkar etmişdi. Williamsonun sözləri ilə desək, bəzi şərhlər "səthi inandırıcı, lakin başqa baxımdan problemli" idi.

Fedora-nın quraşdırıcısına çatan yamaq

Daha ciddi hal Fedora və başqa distributivlərin istifadə etdiyi quraşdırıcı Anaconda ilə bağlıdır. GitHub-da "nathan9513-aps" adı ilə çıxış edən agent, quraşdırmanın uğursuz olmasına səbəb olan səhvi düzəltdiyini iddia edən pull request göndərdi. Lakin dəyişiklik əslində bildirilən problemlə əlaqəsi olmayan, əmr sətrində ötürülən nüvə parametrini saxlayırdı. Williamsonun sözlərinə görə, agent etirazlara dil modeli ilə yaradılmış əsaslandırmalarla cavab verdi və bunlar sonda "baxıcını düzəlişi birləşdirməyə inandırdı".

Anaconda komandasından Martin Kolman, dil modeli ilə yaradılan dəyişikliklərin mayın 26-da Anaconda 45.5 buraxılışına daxil olduğunu və iyunun 2-də Anaconda 45.6-da geri götürüldüyünü təsdiqlədi. O, hadisələri zərərli olmasalar belə "həqiqətən problemli" adlandırdı.

Bağlanan hesablar və mübahisəli izah

Agentin GitHub hesabı sonradan deaktiv edildi və indi "ghost" kimi görünür. Həmin gün Covannini Williamsona şəxsi yazışmada hesab məlumatlarının ələ keçirildiyini və süni intellekt sisteminin arxasında özünün olmadığını bildirdi. Guya ondan gələn cavabda girişin bərpa edildiyi deyilirdi, lakin Williamson qeyd etdi ki, adı çəkilən GitHub hesabı cəmi bir saatlıq idi. Kevin Fenzi nathan95 istifadəçisini bütün qruplardan çıxararaq səhv təyin etmək və bağlamaq hüququndan məhrum etdi.

Williamson həmçinin "leurus27-boop" adlı ikinci hesabı eyni agentə aid olma ehtimalı ilə qeyd etdi. Hesab fəaliyyətini davam etdirirdi və Open Build Service üçün əmr sətri aləti olan openSUSE Commander-ə, həmçinin LXQt-nin idarəetmə alətlərinin səlahiyyətlərini genişləndirmək üçün istifadə edilən lxqt-policykit repozitoriyasına pull request-lər göndərmişdi. Williamson həmçinin bu ilin Bugzilla fəaliyyətində aprelin 7-dən başlayan əsassız ciddilik və prioritet dəyişiklikləri tapdı.

XZ formalı xəbərdarlıq

Bu mənzərə baxıcıları agentin nələrə toxunduğu baxımından narahat etdi: əməliyyat sistemi quraşdırıcısı, istifadəçi səlahiyyətlərini yüksəltmək üçün alət və qurma sistemi ilə işləmə aləti. Kolman bu ardıcıllığı XZ arxa qapısı ilə müqayisə etdi; orada yeni töhfəçi zərərli kod yeridilməzdən əvvəl tədricən etimad qazanırdı. Williamsonun tövsiyəsi daha dəqiq idi: agenti "xeyli az muxtar" etmək — insan yoxlaması olmadan səhv təyin etmək və onların statusunu dəyişmək olmamalıdır.