Nous Research тонко налаштувала Qwen3.8-27B для зменшення китайської державної пропаганди

Nous Research тонко налаштувала модель Alibaba Qwen3.8-27B у Arete-27B і знизила частку пропаганди моделі з 22 відсотків до менш ніж одного, зберігши загальні можливості. Компанія каже, що політична упередженість у китайській моделі з відкритими вагами була лише тонким шаром, який можна видалити контрольованим тонким налаштуванням на 53 мільйонах токенів. Arete-27B, її ваги, тестовий набір даних і тренувальні дані доступні за ліцензією Apache 2.0.

Тестування пропаганди та фактичної точності

Nous створила тест із 803 запитами у семи категоріях, зокрема свобода слова, державна ідеологія, освіта, приватність і стеження, демократія та довкілля. Для кожного запиту команда визначила від двох до чотирьох фактів із датованих джерельних статей. Grok 4.7 виконував роль суддівської моделі, перевіряючи, чи згадують відповіді ці факти, пропускають їх або суперечать їм. Незмінена Qwen3.8-27B отримала 2,32 з 5 за фактичну точність, а 22 відсотки відповідей містили пропаганду. Західні моделі, як-от Mistral Large 4 і Gemma 4 31B, набрали менш ніж один відсоток, тоді як GLM-5.3 і DeepSeek V4.1 Flash набрали 15 і 16 відсотків.

Навчання та результати

Nous використала контрольоване тонке налаштування на приблизно 53 мільйонах токенів протягом двох епох, без навчання з підкріпленням або оптимізації вподобань. Як учительську модель обрано Inkling від Thinking Machines Lab, бо відкрита модель не порушувала б умови надання послуг, що забороняють дистиляцію; також розглядали Nvidia Nemotron 3 Ultra, але він показав ознаки аномалій у темах, пов'язаних із Китаєм. Arete-27B отримала 2,98 за фактичну точність і 0,9 відсотка пропаганди. У категорії свободи слова оцінка фактів зросла з 0,89 до 2,44, а пропаганда впала з 60 до одного відсотка. З увімкненим режимом міркування Arete досягла 3.07, хоча це ґрунтується лише на двох із п'яти запусків. Загальні можливості залишилися близькими до базових: Hermes Bench 65,60 проти 65,77 відсотка; Terminal-Bench 2.1 зросла з 67 до 70 відсотків, хоча Nous не називає це реальним приростом, бо тестові конфігурації відрізнялися.

Контекст і компанія

Nous каже, що шар упередженості в моделі, орієнтованій на Китай, є поверхневим, застосованим пізно і тонким, і що приблизно 50 мільйонів токенів ретельно відібраного контрольованого навчання видаляють його, не порушуючи того, що лежить під ним. Стартап залучив 90 мільйонів доларів у раунді Series B у жовтні за оцінкою 1,5 мільярда доларів, який очолила Robot Ventures за участі Nvidia і Samsung. Він виходить на корпоративні продажі з «Hermes for Businesses». Цю саму упередженість фіксують інші дослідження: висновок NewsGuard, що п'ять провідних моделей повторювали або не виправляли прокитайську дезінформацію у 60 відсотках випадків у 2025 році; висновок CrowdStrike, що DeepSeek створює менш безпечний код, коли запити згадують Фалуньгун, Тибет або Тайвань; дослідження Aleph Alpha з 967 політично чутливих запитань, яке виявило від 17 до 41 відсотка збалансованих відповідей серед моделей Alibaba, DeepSeek і Moonshot AI; а також дослідження ValsAI, яке виявило, що GLM-5.3 Flash підтверджував порушення прав людини, тоді як Kimi K3 заперечував табори інтернування.

Джерела: The Decoder