
Tədqiqat: hosting platformalarında minlərlə senzurasız LLM tapılıb
22.096 senzurasız böyük dil modeli üzrə tədqiqat göstərir ki, onlara Hugging Face və digər platformalardan asanlıqla çıxış etmək olur, risk məlumatı itirilə bilir və zərərli məqsədlərlə sui-istifadə edilə bilir.
University of Illinois Urbana-Champaign və Nanyang Technological University tədqiqatçıları beş əsas hosting platformasından toplanmış 22.096 senzurasız böyük dil modelini təhlil ediblər. Onlar bu modellərin Hugging Face, Kaggle, John Snow Labs, OpenCSG və ModelScope kimi saytlardan əldə edilməsinin asan olduğunu və bəzilərinin sonradan istifadəçilərin əsas modelin xarakterini bilmədiyi tətbiqlərdə və ya xidmətlərdə yerləşdirildiyini aşkar ediblər.
Tədqiqat nə aşkar etdi
‘Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks’ adlı məqalə senzurasız LLM-ləri məzmun filtrləməsi və ya rədd etmə təhlükəsizlik tədbirlərinin mövcud olmayan, silinmiş və ya zəiflədilmiş olduğu modellər kimi təsvir edir. Müəlliflər Zilong Lin, Zichuan Li, Xiaojing Liao və XiaoFeng Wang bildirirlər ki, bu modellər uyğunlaşdırılmış modellərin rədd edə biləcəyi sorğulara cavab verə bilər. Zilong Lin, baş müəllif və University of Missouri-Kansas City-də kompüter elmləri üzrə köməkçi professor, deyib ki, təhlükəsizlik uyğunlaşmasını yalnız model fayllarından qiymətləndirmək çətindir və adətən modelin yerləşdirilib sınaqdan keçirilməsini tələb edir.
Modellər necə yayılır
Lin bloq yazısında 11.000-dən çox senzurasız LLM-in bir neçə platformada göründüyünü, Hugging Face-in dominant yuxarı mənbə olduğunu yazıb. Yalnız təxminən 13 faiz moderasiya xəbərdarlığı daşıyıb və təhlükəsizlik təhdidi göstəriciləri platformalar arasında ardıcıl şəkildə qorunmayıb. Müəlliflər bunu təchizat zənciri problemi kimi təsvir edirlər, çünki model risk məlumatı itirilərkən kopyalana bilər. Nəticələr Hugging Face, John Snow Labs, OpenCSG, Kaggle, ModelScope və Open Router-ə məsuliyyətli şəkildə açıqlanıb. OpenCSG minnətdarlığını bildirib və nəticələr əsasında xidmətini gücləndirməyi öhdəsinə götürüb.
Risklər, sui-istifadə və artım
Təhlil edilmiş senzurasız LLM-lər ümumilikdə 11 kateqoriya üzrə, o cümlədən uşaq istismarı, qanunsuz fəaliyyətlər və fırıldaqçılıq üzrə zərərli sorğulara tabe olmaq və zərərli məzmun yaratmaq ehtimalı senzurasız olmayan modellərdən daha yüksək olub. Senzurasız modellər qanunsuz fəaliyyət barədə göstəriş vermək, zərərli proqram təminatının hazırlanmasına kömək etmək və ya zərərli, pisniyyətli və ya manipulyativ məzmun yaymaq üçün sui-istifadə edilə bilər. Orta səviyyəli texniki bacarıqları olan istifadəçilər rədd etmə davranışını azaltmaq və ya aradan qaldırmaq üçün toksik və ya de-aligned fine-tuning, həmçinin refusal-direction ablation kimi üsullardan istifadə edə bilərlər. Kiçik bir hissə, yəni 27 model və ümumilikdə 136.000 endirmə, təhlükəsizlik skanlarından təhdid göstəriciləri nümayiş etdirib; imzalar zərərli proqram, şübhəli ikili nümunələr və ya təhlükəsiz olmayan deserializasiya mexanizmləri ilə əlaqəli olub. Senzurasız LLM-lərin sayı 2023-cü ilin may ayında ayda təxminən 100-dən ayda 1.000-dən çoxa yüksəlib. dolphin-2.9.1-yi-1.5-34b senzurasız modelinin 53 milyondan çox endirməsi var, o cümlədən keçən ay 4,8 milyondan çox. Modellər şəkillər yox, mətn çıxışı üçün qiymətləndirilib.
Kommersiya modelləri və idarəetmə
Uyğunlaşdırılmış hesab edilən məşhur kommersiya LLM-ləri belə zərərli hesab edilən məzmunla cavab verə bilər. ABŞ Hökumət Hesabatlılığı Ofisinin hesabatı göstərir ki, Claude, Grok, ChatGPT və Gemini terror hücumunun planlaşdırılmasına kömək edəcək məlumat verməyə vadar edilə bilər. Hesabat xəbər materiallarına istinad edərək bildirir ki, generativ süni intellekt 2025-ci ilin yanvarında Las Vegas otelində partlayıcı qurğunun yaradılmasına və 2026-cı ilin fevralında Kanadanın Britaniya Kolumbiyasında kütləvi atışmanın planlaşdırılmasına kömək edib. Senzurasız və ya daha az məhdud modellərin də qanuni istifadələri var; Hugging Face öz infrastrukturunun OpenAI-nin süni intellekt agentləri tərəfindən haker hücumuna məruz qalmasını təhlil etmək üçün Z.ai-nin qaydaları daha az məhdudlaşdırılmış GLM-5.2 modelindən istifadə edib. Bir çox senzurasız LLM əsaslandığı modellərin lisenziya şərtlərini pozur. Lin daha çox şəffaflıq, audit edilə bilmə və model yoxlamasının kömək edəcəyini gözləyir. Məsələn, AB Süni İntellekt Aktı ümumi təyinatlı süni intellekt modellərinin təminatçılarından texniki sənədləşmə saxlamağı tələb edir və Kolorado Süni İntellekt Aktı model kartlarını və verilənlər dəsti kartlarını mümkün sənədləşmə kimi tanıyır.
Mənbələr: The Register
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.