Nous Research-მა Qwen3.8-27B ჩინური სახელმწიფო პროპაგანდის შესამცირებლად გადაამზადა

Nous Research-მა Alibaba-ს Qwen3.8-27B მოდელი გადაამზადა და შექმნა Arete-27B. მოდელის პროპაგანდის მაჩვენებელი 22%-დან 1%-ზე ნაკლებამდე შემცირდა, ზოგადი შესაძლებლობები კი უცვლელი დარჩა. კომპანიის თქმით, ჩინური ღია წონის მოდელში პოლიტიკური მიკერძოება მხოლოდ თხელი ფენა იყო, რომლის მოცილებაც 53 მილიონ ტოკენზე ზედამხედველობითი დაზუსტებით (supervised fine-tuning) მოხერხდა. Arete-27B, მისი წონები, ტესტური მონაცემები და სასწავლო მონაცემები Apache 2.0 ლიცენზიით არის ხელმისაწვდომი.

პროპაგანდისა და ფაქტობრივი სიზუსტის შემოწმება

Nous-მა შექმნა 803 მოთხოვნის ტესტი შვიდ კატეგორიაში, მათ შორის სიტყვის თავისუფლება, სახელმწიფო იდეოლოგია, განათლება, კონფიდენციალურობა და მეთვალყურეობა, დემოკრატია და გარემო. თითოეული მოთხოვნისთვის გუნდმა განსაზღვრა ორიდან ოთხამდე ფაქტი დათარიღებული წყაროს სტატიებიდან. მსაჯი მოდელის როლში Grok 4.7 გამოიყენეს: ამოწმებდნენ, პასუხი ახსენებდა, გამოტოვებდა თუ ეწინააღმდეგებოდა ამ ფაქტებს. შეუცვლელი Qwen3.8-27B ფაქტობრივ სიზუსტეში 5-იდან 2,32 ქულას აგროვებდა, პასუხების 22% კი პროპაგანდას შეიცავდა. დასავლური მოდელები, როგორიცაა Mistral Large 4 და Gemma 4 31B, 1%-ზე ნაკლებს აჩვენებდნენ, GLM-5.3-მა და DeepSeek V4.1 Flash-მა კი 15% და 16%.

გადამზადება და შედეგები

Nous-მა გამოიყენა ზედამხედველობითი დაზუსტება დაახლოებით 53 მილიონ ტოკენზე ორ ეპოქაში, განმტკიცებითი სწავლისა და პრეფერენციების ოპტიმიზაციის გარეშე. მასწავლებელ მოდელად აირჩია Thinking Machines Lab-ის Inkling, რადგან ღია მოდელი არ დაარღვევდა მომსახურების პირობებს, რომლებიც დისტილაციას კრძალავს; განიხილავდნენ Nvidia-ს Nemotron 3 Ultra-საც, მაგრამ მას ჩინეთთან დაკავშირებულ თემებზე ანომალიების ნიშნები ჰქონდა. Arete-27B ფაქტობრივ სიზუსტეში 2,98 ქულას და პროპაგანდაში 0,9%-ს აჩვენებს. სიტყვის თავისუფლების კატეგორიაში ფაქტების ქულა 0,89-იდან 2,44-მდე გაიზარდა, პროპაგანდა კი 60%-იდან 1%-მდე დაეცა. მსჯელობის რეჟიმის ჩართვით Arete-27B 3,07 ქულას აღწევს, თუმცა ეს მხოლოდ ხუთი გაშვებიდან ორზეა დაფუძნებული. ზოგადი შესაძლებლობები საბაზისო მოდელის ახლოს დარჩა: Hermes Bench-ზე 65,60%, საბაზისო მოდელზე კი 65,77%; Terminal-Bench 2.1-ზე 67%-იდან 70%-მდე გაიზარდა, თუმცა Nous ამას რეალურ მოგებად არ თვლის, რადგან ტესტის პირობები განსხვავებული იყო.

კონტექსტი და კომპანია

Nous-ის თქმით, ჩინეთზე ორიენტირებული მოდელის მიკერძოების ფენა ზედაპირულია, გვიან ედება და თხელია, და დაახლოებით 50 მილიონი ტოკენის გულდასმით შერჩეული ზედამხედველობა მას აშორებს, ქვემოთ არსებულს კი ხელუხლებელს ტოვებს. სტარტაპმა ოქტომბერში Series B რაუნდში 90 მილიონი დოლარი მოიზიდა 1,5 მილიარდი დოლარის შეფასებით; რაუნდს Robot Ventures-მ უხელმძღვანელა, მონაწილეებს შორის იყვნენ Nvidia და Samsung. კომპანია კორპორატიულ გაყიდვებზე გადადის პროდუქტით „Hermes for Businesses“. მიკერძოებას სხვა კვლევებიც ადასტურებს: NewsGuard-მა დაადგინა, რომ 2025 წელს ხუთი წამყვანი მოდელი შემთხვევათა 60%-ში იმეორებდა ან ვერ ასწორებდა ჩინეთის მომხრე დეზინფორმაციას; CrowdStrike-მა დაადგინა, რომ DeepSeek ნაკლებად უსაფრთხო კოდს აწარმოებს, როცა მოთხოვნები ფალუნ გუნს, ტიბეტს ან ტაივანს ეხება; Aleph Alpha-ს კვლევამ, რომელიც 967 პოლიტიკურად მგრძნობიარე კითხვას მოიცავდა, აჩვენა, რომ Alibaba-ს, DeepSeek-ისა და Moonshot AI-ის მოდელებში დაბალანსებული იყო პასუხების მხოლოდ 17-41%; ValsAI-ის კვლევამ კი დაადგინა, რომ GLM-5.3 Flash ადასტურებდა ადამიანის უფლებების დარღვევებს, Kimi K3 კი უარყოფდა საკონცენტრაციო ბანაკებს.

წყაროები: The Decoder