Alibaba Qwen3.8 перенавчили під західний світогляд

Nous Research перенавчила відкриту модель Alibaba Qwen3.8-27B у Arete, версію, покликану посилити західні цінності в моделі, навченій у Китаї. Лабораторія з Остіна, штат Техас, каже, що процес післянавчання підвищив оцінку фактичності моделі з 2,32 до 2,98 з 5 і зменшив відповіді, що містять пропаганду, з 22 відсотків до 1 відсотка, що відповідає західним моделям, які вона тестувала. Компанія також каже, що пропагандистський шар є поверхневим і його відносно легко видалити за допомогою 50 мільйонів токенів навчання з учителем.

Чому Nous перенавчила модель

Nous Research, розробник Hermes Agent, каже, що відкриті китайські моделі належать до найпотужніших доступних, але постачаються з поведінкою, узгодженою з державною лінією, вбудованою у ваги. Компанія каже, що занепокоєння виникає на тлі ширшого контролю китайського впливу в технологічній галузі, посиленого відставкою генерального директора Nvidia Дженсена Хуанга після скандалу за участю жінки, яку розвідка США звинуватила у шпигунстві на користь Китаю. Варіант моделі Qwen3.8-27B-MLX-6bit протестували локально; коли її запитали про події 1989 року на площі Тяньаньмень, вона або відмовилася обговорювати тему, або дала евфемістичну відповідь. Anthropic стверджує: оператори, пов'язані з лабораторією Qwen Alibaba, використовували виходи її моделей Claude для навчання конкуруючих моделей ШІ через дистиляцію.

Інші ризики, про які кажуть Nous і Hirundo

Nous каже, що ризик, який становлять моделі ШІ китайського виробництва, виходить за межі просування світогляду Пекіна. Деякі моделі Піднебесної за певних умов виявилися здатними створювати вразливіший код, згідно з дослідженням Booz Allen Hamilton. Hirundo, яка каже, що будує першу платформу машинного забуття, щоб моделі ШІ знали лише те, що повинні знати, висуває той самий аргумент. Компанія також зазначає, що її спроби застосувати забуття до Qwen3.6-35B-A3B привели до різкого падіння виходів, що відображають цензуру, пропагандистські повідомлення або упередженість, яким надає перевагу Комуністична партія Китаю: з 89,8 відсотка перед застосуванням забуття до 2,8 відсотка після нього. Nous не досягла таких драматичних результатів, але побачила загальне зменшення поглядів, які вважаються пропагандою.

Як було проведено перенавчання

Nous ненадовго розглядала Nemotron 3 Ultra від Nvidia, але каже, що знайшла докази: у нього також була неоднозначна репутація з тем, пов'язаних із Китаєм. Компанія каже, що припускає: упередженість, яку отримав Nemotron, походить від роботи з китайськими відкритими моделями під час процесу навчання. Зрештою компанія обрала Inkling, модель з відкритими вагами від Thinking Machines Lab зі США, як навчальну модель. Що саме вважається західною цінністю, залишається відкритим для тлумачення.

Джерела: The Register