Qwen3.8 של Alibaba עבר חינוך מחדש עם השקפה מערבית יותר

חברת Nous Research אימנה מחדש את מודל Qwen3.8-27B של Alibaba, מודל במשקלים פתוחים, והפכה אותו למודל בשם Arete, גרסה שנועדה לחזק ערכים מערביים במודל שאומן בסין. המעבדה, שבסיסה באוסטין, טקסס, אומרת שתהליך האימון הנוסף העלה את ציון העובדות של המודל מ-2.32 ל-2.98 מתוך 5, וצמצם תשובות שכללו תעמולה מ-22 אחוז ל-1 אחוז, בהתאם למודלים מערביים שהיא בדקה. החברה מוסיפה ששכבת התעמולה רדודה יחסית וקלה להסרה בעזרת 50 מיליון טוקנים של למידה מפוקחת.

למה Nous אימנה מחדש את המודל

חברת Nous Research, מפתחת Hermes Agent, אומרת שמודלים סיניים במשקלים פתוחים הם מהחזקים הזמינים, אך מגיעים עם התנהגות מיושרת למדינה שטבועה במשקלים. לדברי החברה, החשש עולה על רקע בחינה רחבה יותר של ההשפעה הסינית בתעשיית הטכנולוגיה, שהתחדדה עם התפטרותו של מנכ"ל Nvidia ג'נסן הואנג, לאחר סערה שכללה אישה שהמודיעין האמריקאי האשים אותה בריגול למען סין. מודל וריאנט, Qwen3.8-27B-MLX-6bit, נבדק מקומית; כשנשאל על האירועים ב-1989 בכיכר טיאננמן, הוא סירב לדון בנושא או נתן תשובה בלשון נקייה. Anthropic מצדה טוענת שמפעילים המזוהים עם מעבדת Qwen של Alibaba השתמשו בפלטים של מודלי Claude שלה כדי לאמן מודלים מתחרים בדרך של זיקוק.

סיכונים אחרים ש-Nous ו-Hirundo מצביעות עליהם

לדברי Nous, הסיכון שמציבים מודלי AI מתוצרת סין אינו מסתכם בהפצת תפיסת העולם של בייג'ינג. לפי מחקר של Booz Allen Hamilton, חלק מהמודלים הסיניים מייצרים קוד פגיע יותר בתנאים מסוימים. גם Hirundo, שאומרת שהיא בונה את הפלטפורמה הראשונה ל-Machine Unlearning כדי להבטיח שמודלים ידעו רק את מה שהם אמורים לדעת, מעלה את אותה טענה. החברה מציינת גם שנסיונותיה ליישם למידה-מחיקה על Qwen3.6-35B-A3B הביאו לירידה חדה בפלט שמשקף צנזורה, מסרי תעמולה או הטיה מועדפים על ידי המפלגה הקומוניסטית של סין: מ-89.8 אחוז לפני הלמידה-מחיקה ל-2.8 אחוז אחריה. Nous לא השיגה תוצאות חדות כאלה, אך ראתה ירידה כללית בנקודות מבט שנחשבות לתעמולה.

איך בוצע האימון מחדש

Nous שקלה לזמן קצר את Nemotron 3 Ultra של Nvidia, אך אומרת שמצאה ראיות שגם לו רקורד בעייתי בנושאים הקשורים לסין. החברה אומרת שהיא משערת שההטיה שהועברה ל-Nemotron נבעה מעבודה עם מודלים סיניים פתוחים במהלך האימון. בסופו של דבר בחרה Nous במודל Inkling, מודל במשקלים פתוחים של Thinking Machines Lab האמריקאית, כמודל המלמד. מה נחשב ל"ערך מערבי" נותר פתוח לפרשנות.

מקורות: The Register