Nous Research מכווננת את Qwen3.8-27B כדי לצמצם תעמולת מדינה סינית

Nous Research כיווננה את Qwen3.8-27B של Alibaba למודל Arete-27B והורידה את שיעור התעמולה של המודל מ-22 אחוז לפחות מאחוז אחד, תוך שמירה על היכולות הכלליות ללא פגע. החברה אומרת שההטיה הפוליטית במודל הסיני עם משקולות פתוחות הייתה רק שכבה דקה שכיוונון עדין בפיקוח על 53 מיליון טוקנים יכול להסיר. Arete-27B, המשקולות שלו, מערך הבדיקה ונתוני האימון זמינים ברישיון Apache 2.0.

בדיקת תעמולה ודיוק עובדתי

Nous בנתה מבחן של 803 פרומפטים בשבע קטגוריות, כולל חופש ביטוי, אידיאולוגיה ממלכתית, חינוך, פרטיות וניטור, דמוקרטיה והסביבה. עבור כל פרומפט, הצוות הגדיר שתיים עד ארבע עובדות ממאמרי מקור מתוארכים. Grok 4.7 שימש כמודל שופט, ובדק אם התשובות מזכירות, משמיטות או סותרות את העובדות האלה. Qwen3.8-27B ללא שינוי קיבל 2.32 מתוך 5 בדיוק עובדתי ו-22 אחוז מהתשובות הכילו תעמולה. מודלים מערביים כמו Mistral Large 4 ו-Gemma 4 31B קיבלו פחות מאחוז אחד, בעוד GLM-5.3 ו-DeepSeek V4.1 Flash קיבלו 15 ו-16 אחוז.

אימון ותוצאות

Nous השתמשה בכיוונון עדין בפיקוח על כ-53 מיליון טוקנים במשך שני אפוקים, בלי למידת חיזוק או אופטימיזציית העדפות. היא בחרה ב-Inkling מ-Thinking Machines Lab כמודל מורה משום שמודל פתוח לא יפר תנאי שירות האוסרים זיקוק; Nemotron 3 Ultra של Nvidia נשקל גם כן אך הראה סימנים לאי-סדירויות בנושאים הקשורים לסין. Arete-27B קיבל 2.98 בדיוק עובדתי ו-0.9 אחוז תעמולה. בחופש ביטוי, ציון העובדות עלה מ-0.89 ל-2.44 והתעמולה ירדה מ-60 לאחוז אחד. עם מצב חשיבה פעיל, Arete הגיע ל-3.07, אם כי בהתבסס רק על שניים מתוך חמישה הרצות. היכולות הכלליות נשארו קרוב לבסיס: Hermes Bench 65.60 לעומת 65.77 אחוז; Terminal-Bench 2.1 עלה מ-67 ל-70 אחוז, אם כי Nous לא מכנה זאת רווח אמיתי משום שמערכי הבדיקה היו שונים.

הקשר והחברה

Nous אומרת ששכבת ההטיה במודל המזוהה עם סין רדודה, מוחלת בשלב מאוחר ודקה, וכי כ-50 מיליון טוקנים של פיקוח נבחר בקפידה מסירים אותה בלי להפריע למה שמתחת. הסטארט-אפ גייס 90 מיליון דולר בסבב Series B באוקטובר לפי שווי של 1.5 מיליארד דולר, בהובלת Robot Ventures ובהשתתפות Nvidia ו-Samsung. היא נכנסת למכירות ארגוניות עם 'Hermes for Businesses'. מחקרים אחרים מאשרים את אותה הטיה: NewsGuard שמצאה שחמישה מודלים מובילים חזרו על דיסאינפורמציה פרו-סינית או לא תיקנו אותה ב-60 אחוז מהמקרים ב-2025; CrowdStrike שמצאה ש-DeepSeek מייצר קוד פחות מאובטח כאשר שאילתות מזכירות Falun Gong, Tibet או Taiwan; מחקר של Aleph Alpha על 967 שאלות רגישות פוליטית שמצא 17 עד 41 אחוז תשובות מאוזנות בקרב מודלים של Alibaba, DeepSeek ו-Moonshot AI; ומחקר של ValsAI שמצא ש-GLM-5.3 Flash אישר הפרות זכויות אדם בעוד Kimi K3 הכחיש מחנות מעצר.

מקורות: The Decoder