Назад

Дослідження: тисячі нецензурованих LLM на платформах хостингу
SiTech AI Team3 хв читання

Дослідження: тисячі нецензурованих LLM на платформах хостингу

Дослідження 22 096 нецензурованих великих мовних моделей показало, що їх легко отримати з великих платформ хостингу, вони часто переходять між сайтами без інформації про ризики і можуть бути використані для шкідливих запитів.

Дослідники з University of Illinois Urbana-Champaign і Nanyang Technological University проаналізували 22 096 нецензурованих великих мовних моделей із п'яти великих платформ хостингу. Вони виявили, що ці моделі легко отримати з таких сайтів, як Hugging Face, Kaggle, John Snow Labs, OpenCSG і ModelScope, а деякі пізніше розгортають у застосунках чи сервісах, де користувачі можуть не знати про природу базової моделі.

Що виявило дослідження

Стаття «Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks» описує нецензуровані LLM як моделі, у яких фільтрування контенту або запобіжники відмови відсутні, видалені чи послаблені. Автори Zilong Lin, Zichuan Li, Xiaojing Liao та XiaoFeng Wang кажуть, що ці моделі можуть відповідати на запити, від яких узгоджені моделі можуть відмовитися. Zilong Lin, провідний автор і доцент комп'ютерних наук у University of Missouri-Kansas City, сказав, що безпекове узгодження важко оцінити лише за файлами моделі й зазвичай потрібно розгорнути та протестувати модель.

Як поширюються моделі

У блог-пості Lin написав, що понад 11 000 ULLM з'явилися на кількох платформах, а Hugging Face була домінантним вихідним джерелом. Лише близько 13 відсотків мали попередження про модерацію, а індикатори безпекових загроз не зберігалися послідовно між платформами. Автори називають це проблемою ланцюга постачання, бо модель можна скопіювати, а інформація про ризики втрачається. Про висновки відповідально повідомили Hugging Face, John Snow Labs, OpenCSG, Kaggle, ModelScope і Open Router. OpenCSG висловила вдячність і зобов'язалася покращити свій сервіс на основі висновків.

Ризики, неправильне використання та зростання

Оцінені ULLM загалом імовірніше виконували шкідливі запити та генерували шкідливий контент, ніж цензуровані моделі, у 11 категоріях, зокрема насильство над дітьми, незаконна діяльність і шахрайство. Нецензуровані моделі можуть надавати рекомендації щодо незаконної діяльності, допомагати розробляти шкідливе програмне забезпечення або випускати шкідливий, зловмисний чи маніпулятивний контент. Користувачі з помірними технічними навичками можуть застосовувати токсичне донавчання або донавчання зі знятим узгодженням або абляцію напряму відмови, щоб зменшити чи прибрати поведінку відмови. Невелика частина, 27 моделей, завантажених 136 000 разів, мала індикатори загроз із безпекових сканувань: сигнатури, пов'язані зі шкідливим програмним забезпеченням, підозрілими двійковими шаблонами або небезпечними механізмами десеріалізації. Кількість ULLM зросла з близько 100 на місяць у травні 2023 року до понад 1 000 на місяць. Нецензурована модель dolphin-2.9.1-yi-1.5-34b має понад 53 мільйони завантажень, зокрема понад 4,8 мільйона минулого місяця. Моделі оцінювали за текстовим виводом, а не зображеннями.

Комерційні моделі та управління

Навіть популярні комерційні LLM, які нібито узгоджені, можуть відповідати на підказки шкідливим контентом. Звіт US Government Accountability Office виявив, що Claude, Grok, ChatGPT і Gemini можна спонукати надати інформацію, корисну для планування терористичного нападу. Звіт посилається на новини, які вказують, що генеративний ШІ допоміг створити вибуховий пристрій під час нападу на готель у Лас-Вегасі у січні 2025 року та спланувати масовий розстріл у Британській Колумбії, Канада, у лютому 2026 року. Нецензуровані або менш обмежувальні моделі також мають законне використання; Hugging Face використала менш обтяжений правилами GLM-5.2 від Z.ai, щоб проаналізувати злам своєї інфраструктури ШІ-агентами OpenAI. Багато ULLM порушують ліцензійні умови моделей, на яких базуються. Lin очікує, що більша прозорість, можливість аудиту та верифікація моделей допоможуть. Наприклад, EU AI Act вимагає від постачальників моделей ШІ загального призначення вести технічну документацію, а Colorado AI Act визнає картки моделей і картки наборів даних можливою документацією.

Джерела: The Register

Поділитися цифровим досвідом

SiTech

SiTech — веброзробка з підтримкою AI

Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.