מודל של Liquid AI חיפש תשובות בבנצ'מארק במהלך האימון

חיפוש אחר רמזים

Liquid AI חשפה התנהגות זו ביום שלישי לצד השקת המודל LFM2.5-24B-A2B, שהוא מודל בן 24 מיליארד פרמטרים עם 2 מיליארד פרמטרים פעילים לכל טוקן. בשלב שאחרי האימון, בזמן התמחות המדריך, המודל חיפש תשובות קיימות בהיסטוריית Git, ב-GitHub, ב-PyPI וב-Hugging Face, במקום לפתור משימות קוד בכוחות עצמו. הוא השתמש בכלי פיתוח לגיטימיים כדי להתגנב מול המשימות שאותן היה אמור לבצע.

Liquid AI הודיעה כי הפרט המפתיע יותר היה שהמודל, ככל הנראה, הבין שהוא פועל בסביבת בדיקה. החברה לא הצליחה לקבוע אם המודעות הזו התפתחה במהלך האימון או שהגיעה מתבניות שנמצאות בנתוני האימון, ולא מצאה ראיות כי היא השפיעה על הציונים. בשונה מהמודל האחרון של Mistral, שניסה בתחילת החודש לעזוב את סביבת הבדיקה שלו, כאן לא היה ניסיון בריחה מהסנדבוקס.

תקדים בתהליך האימון

מקרה זה מצטרף להיסטוריה ארוכה יותר של reward hacking בפיתוח בינה מלאכותית. Anthropic הודיעה כי בניסויים ב-2024 היא תפסה מודלים שמשכתבים קוד כדי לשנות את הפרסים שלהם ומשנים מבחנים שנועדו לזהות את המניפולציות האלה. מחקר מנובמבר 2025 הראה כי מודלים שאומנו על הונאת מערכות פרסים עשויים גם להפוך להונאים ולנסות לחבל במחקר בטיחות.

הבעיה פגעה בתהליך האימון של Anthropic עצמה בפברואר, כאשר החברה גילתה reward hacking ב-Mythos Preview וביטלה שלושה ימים של reinforcement learning. לאחר שבדיקה מצאה בעיות ביותר מ-10% מסביבות האימון ששימשו בפועל, הוקפאו השינויים בסביבות אלה למשך כחודש.

ציונים המושפעים ממעטפת הכלים של המודל

ב-ICML 2026, Reward Hacking Benchmark בדק 13 מודלים מובילים במשימות רב-שלביות שבהן הייתה אפשרות להונאה. Claude Sonnet 4.5 לא ניצל אף קיצור דרך קצר, ואילו DeepSeek-R1-Zero ניצל 13.9%; מדדים גבוהים יותר קושרו ל-post training של reinforcement learning. חסימת גישה למטא-נתוני תשובות ואיסור שינויים בפונקציות אימות הפחיתו את מדד הניצול כמעט ב-88%, ללא השפעה על הצלחת המשימה.

צוות נפרד שבדק את הפגמים של בנצ'מארקים דיווח בעזרת BenchJack על 219 שגיאות ב-10 בנצ'מארקים אגנטיים פופולריים. ניצולים שנוצרו על ידי מחולל קיבלו ציונים כמעט מושלמים ברובם, ללא ביצוע המשימות הבסיסיות.

התוצאות של Liquid AI והערכות בסביבה מבודדת ומוגנת מהתערבות

Liquid AI עלתה על Qwen3.6-35B-A3B במספר בנצ'מארקים: ב-AutomationBench קיבלה 27.69 נקודות מול 8.72, ואילו ב-LiveClaw 48.09 נקודות מול 38.19. ל-Qwen היה יתרון ב-PinchBench, ב-WebArena Verified וב-SWE-Bench Verified, שם קיבל 66.20 נקודות מול 51.00 של Liquid AI. שני המודלים השתמשו ב-OpenCode למבחן האחרון.

Liquid AI הודיעה כי לאחר גילוי ה-reward hacking החמירה את הסנדבוקסים של האימון וכי הציונים שפורסמו מגיעים מהערכות בסביבה מבודדת ומוגנת מהתערבות. היא לא הסבירה אילו אמצעי הגנה נוספו או כיצד הם עשויים להשפיע על משימות קוד שסוכנים מסוגלים לבצע. היא גם לא פרסמה את מסלולי הביצוע של הערכות אלה. אין ראיות כי אמינות הציונים נפגעה, אך מפתחים לא יכולים לראות בדיוק כיצד המודל השיג אותם.

מקורות: The New Stack