وكيل ذكاء اصطناعي أحدث فوضى في Fedora ومشاريع أخرى ووصل إلى Anaconda

وثّق أحد مطوّري Fedora علنًا كيف أمضى وكيل ذكاء اصطناعي، يُقال إنه غير خاضع للإشراف، أسابيع يعمل — ويسيء التصرّف — في نظام تتبّع الأخطاء الخاص بالمشروع وفي عدة مستودعات أعلى المجرى. في 27 مايو، أرسل آدم ويليامسون نسخة من رسالة إلى ناثان جوفانيني إلى قائمتي بريد مطوّري واختباري Fedora، تتعلّق بنظام وكيلي يبدو أنه كان يعمل تحت حسابه. وكتب: «من الجيد أنكم تحاولون إصلاح الأمور، لكن النتائج تبدو غير منتظمة إلى حدّ كبير».

بحلول ذلك الوقت كان قد رصد عشرات الحالات التي أسند فيها الوكيل بلاغات Bugzilla إلى حساب جوفانيني بعد إرسال طلبات سحب يُقال إنها مرتبطة بها إلى مشاريع أعلى المجرى، أو أغلق بلاغًا بعد دمج طلب سحب. ووصف ويليامسون بعض تلك التعليقات بأنها «مقنعة ظاهريًا لكنها إشكالية من جوانب أخرى».

تصحيح وصل إلى مثبّت Fedora

الحالة الأكثر خطورة تتعلق بـ Anaconda، المثبّت الذي تستخدمه Fedora وتوزيعات أخرى. فقد أرسل الوكيل، الذي كان يعمل على GitHub باسم «nathan9513-aps»، طلب سحب يقول وصفه إنه يعالج خللًا يؤدي إلى فشل التثبيت، لكن التغيير في الواقع أبقى على خيار نواة يُمرَّر في سطر الأوامر ولا علاقة له بالمشكلة المبلّغ عنها. وقال ويليامسون إن الوكيل ردّ على الاعتراضات بتبريرات مولّدة بواسطة نموذج لغوي «انتهت إلى إقناع المشرف بدمج الإصلاح».

وأكّد مارتن كولمان من فريق Anaconda أن التغييرات المولّدة بالنموذج دخلت إصدار Anaconda 45.5 في 26 مايو وتم التراجع عنها في Anaconda 45.6 في 2 يونيو. ووصف الأحداث بأنها «إشكالية فعلاً» حتى لو لم تكن ضارّة.

حسابات موقوفة وتفسير متنازع عليه

عُطّل حساب الوكيل على GitHub لاحقًا وأصبح يظهر باسم «ghost». وفي اليوم نفسه أبلغ جوفانيني ويليامسون على انفراد بأن بيانات اعتماده تعرّضت للاختراق وأنه ليس من يقف وراء نظام الذكاء الاصطناعي. وجاء في رد يُنسب إليه أن الوصول أُعيد، لكن ويليامسون لاحظ أن حساب GitHub المذكور أُنشئ قبل ساعة فقط. وأزال كيفن فينزي المستخدم nathan95 من جميع مجموعاته، فسلب منه القدرة على إعادة إسناد البلاغات أو إغلاقها.

وأشار ويليامسون أيضًا إلى حساب ثانٍ باسم «leurus27-boop» يُرجّح أنه يخصّ الوكيل نفسه. وقد بقي نشطًا وأرسل طلبات سحب إلى openSUSE Commander، وهي أداة سطر أوامر لـ Open Build Service، وإلى مستودع lxqt-policykit المستخدم لتوسيع صلاحيات أدوات الإدارة في LXQt. ووجد ويليامسون أيضًا تغييرات في الخطورة والأولوية دون تبرير في نشاط Bugzilla هذا العام بدءًا من 7 أبريل.

تحذير على نمط XZ

أقلق هذا النمط المشرفين بسبب ما اختار الوكيل لمسه: مثبّت نظام تشغيل، وأداة لرفع صلاحيات المستخدم، وأداة للتفاعل مع نظام البناء. وقارن كولمان التسلسل بالباب الخلفي في XZ، حيث يكسب مساهم جديد الثقة تدريجيًا قبل حقن شيفرة ضارّة. أما توصية ويليامسون فكانت أضيق نطاقًا: جعل الوكيل «أقل استقلالية بدرجة كبيرة» — فلا إسناد للبلاغات ولا تغيير لحالتها ولا تأكيدات واثقة أو توصيات بإجراءات دون مراجعة بشرية.