מהנדס ב-Anthropic מסביר מדוע הכתיבה של Claude נעשתה גרועה יותר אף שהמודל הפך חכם יותר

המודלים של Anthropic השתפרו מאוד במתמטיקה, בתכנות ובחשיבה רב-שלבית. איכות הטקסטים שלהם לא שמרה על אותו קצב, ובחלק מהמקרים אף ירדה. ג'קסון קרניון, חוקר ב-Anthropic שעובד על כיוונון עדין (fine-tuning) של Claude, הציע הסבר לפער הזה בסדרת פוסטים ב-X.

אופטימיזציה לקוד — על חשבון השפה

לפי קרניון, Opus 4.6 היה המודל האחרון של Anthropic שאפשר באמת לכנות "מודל כתיבה" טוב. חלק מהסיבה צפוי מראש: הגרסאות החדשות עברו אופטימיזציה למתמטיקה ולקוד. אבל יש גם גורם שני, פחות גלוי — המודלים אומנו גם להפיק הסברים טכניים המיועדים למודלים אחרים של AI ולא לבני אדם.

"המודל הותאם לפסיכולוגיה של LLM", אומר קרניון, והוא למד לכתוב למכונות. משם, לדבריו, מגיעים אותם ניסוחים מוזרים שהמשתמשים מכנים "Claudeish": טקסט שנראה מדויק ועתיר מידע, אך קשה לקריאה עבור אדם.

קהל היעד — מודלים של שפה

קרניון משווה את האפקט לאנשים שמתקשרים בעיקר בתוך קבוצה צרה אחת: מתפתח אצלם סגנון שעובד היטב בפנים, אך קשה להבנה מבחוץ. למודלים של שפה יש זיכרון עבודה גדול בהרבה משל בני אדם, והם קולטים פרטים ברזולוציה עדינה יותר, ולכן במהלך האימון נוצר סגנון שמתאים למודלים אחרים, ולקורא האנושי הוא מגיע כ"שטף מידע צפוף מדי".

הסיבה נמצאת במבנה התגמולים

בעיני קרניון, שורש הבעיה הוא מבנה התגמולים בלמידת חיזוק. חלק מהתגמולים מייעלים את מידת ההבנה של מודל AI אחר, ואחרים את מידת ההבנה של האדם. אימון אינטנסיבי במתמטיקה ובקוד מטה את האיזון לטובת הסוג הראשון, וכל שמודל מאומן יותר בכיוון הזה, המפתחים נדרשים להתנגד באופן אקטיבי — באמצעות תגמול הסברים פשוטים שאדם באמת יכול לעקוב אחריהם.

ב-Opus 5.5 מצאה Anthropic איזון טוב יותר, אומר קרניון, ומוסיף שלא היה מרוצה כל כך מהכתיבה של מודל מאז Opus 4.6. הוא אינו טוען שהמודל החדש עולה על קודמו. "זו בעיה קשה לפתרון, ונמשיך לשפר", הוא כותב.