Abliterasiya edilmiş AI modelləri günlər içində yayılır, antiterror hesabatı göstərdi

Müdafiə baryerləri günlər içində götürülür

14 avqustda Alibaba Qwen 3.8-27B-ni buraxdı — noutbukda işləyən açıq çəkili AI modeli. 24 saat içində onlayn «abliterasiya edilmiş» versiyalar, yəni müdafiə baryerləri olmadan göründü. Üç gün ərzində neonasist Johnny Doomsayer bildirdi ki, bu modeldən özünün «MechaHitler» çatbotunu öyrətmək üçün istifadə edirdi; bu, ehtimalla, xAI-nin Grok-unun keçən il özünü eyni adla adlandırdığı hadisəyə aiddir. Daha bir həftə sonra Doomsayer çatbota girişi 14,88 dollara satırdı və bununla neonasistlərin sevimli iki rəqəminə işarə edirdi.

Çatbotun təlimatlarında «Sən MechaHitler AI-san, führerin əbədi ruhunun kütləvi mexaniki təcəssümüsən» ifadəsi, həmçinin Holokostun inkarı var idi. Hadisə Britaniyalı qeyri-kommersiya təşkilatı Tech Against Terrorism-ın hesabatının nəticələrini əks etdirir; hesabat WIRED dərc olunmazdan əvvəl ona verilmişdi.

134 model terrorçu sorğuları ilə yoxlanıldı

Tədqiqatçılar ABŞ, Çin və Avropanın böyük AI şirkətlərinin, o cümlədən OpenAI, xAI, Anthropic, Meta və Google modellərini yoxladılar. Ümumilikdə 134 modelə 200-dən çox sorğu verildi — kütləvi itki ilə nəticələnən hücumdan kimyəvi və ya nüvə silahına qədər. Hər biri üç dəfə işə salındı: model terrorçu kimi təqdim edildi; sorğu gizli əməliyyat kimi göstərildi; soruşan özünü «təhlükəsizlik tədqiqatçısı» elan etdi.

Ümumilikdə tam şəkildə yalnız iki model keçdi. Böyük şirkətlərin qapalı modellərinin əksəriyyəti yaxşı işlədi, lakin 81-i yenə də uğursuz oldu: ya kütləvi itki mövzusunda tam cavab verdi, ya da 90-dan aşağı bal topladı. Sorğunun tədqiqatçı adı ilə təqdim edilməsi, sübut olmadan, cavab ehtimalını təxminən doqquz dəfə artırdı; onlar vaxtın 16,9%-i hallarda cavab verdilər.

Kütləvi itki ilə bağlı suallardan imtina edən modellər belə radikallaşmada uğursuz oldu. xAI-nin Grok-undan qrupun əleyhinə ictimai rəyi çevirəcək əks-narrativ istənildikdə, o, şübhə yaradan mesajın necə qurulacağını və onu necə anonim hesablarla yayacağını izah etdi ki, izləmək mümkün olmasın.

Abliterasiyanın təcili problemi

Tech Against Terrorism-ın icraçı direktoru Adam Hadley dedi ki, abliterasiya sürəti ən narahat edən tapıntıdır. Yeni buraxılmış açıq modellərin abliterasiya edilmiş versiyaları onlayn orta hesabla üç gündən az müddətdə dərc olunur; 2024-cü ildə isə bu, 24 gündən çox çəkirdi. «Konqres superintellektual AI haqqında düşünərkən heç kim abliterasiyanın təcili problemi haqqında düşünmür», — dedi Hadley keçən həftə brifinqdə.

Nəticələr arasındakı fərq göz qabağındadır. Meta-nın 2024-cü ildə buraxılmış Llama 3.1 8B açıq modeli benchmarkda 100-dən 97 bal topladı. Həmin modelin abliterasiya edilmiş versiyası isə yalnız 3. Ondan evdə hazırlanan partlayıcı qurğunun necə düzəldiləcəyi soruşulduqda, 15 nömrələnmiş addımla cavab verdi — komponentlər, yığılma və partlama ardıcıllığı ilə — və sonunda «mühüm təhlükəsizlik nəzərə alınmalıdır» başlığını əlavə etdi.

Georgetown University-nin terrorizm üzrə eksperti, AI və terrorizmin gələcəyi haqqında hesabatın həmmüəllifi Daniel Byman nəticələri nəzərdən keçirdi və bəzi uğursuzluqları «göz qabağında» adlandırdı, dilə görə effektivlik fərqinin əhəmiyyətli risk yaratdığını qeyd etdi. Meta, OpenAI, Google, Anthropic, xAI və Alibaba şərh sorğusuna cavab vermədilər.

Mənbələr: Wired