Anthropic משחררת את Mythos 5.2 ואת Fable 5.2 על רקע חששות מ-RSI

Anthropic שחררה ביום שני גרסאות חדשות של המודלים המתקדמים ביותר שלה, עם השקת Mythos 5.2 ו-Fable 5.2. החברה אומרת שהמודלים מציגים שיפורים בתחומים כמו קידוד, חשיבה וראייה, ושהם מתקשרים עם המשתמשים בצורה ברורה יותר. ההשקה באה לאחר דוח של צד שלישי מקבוצת ההערכה METR, שהעלה אפשרות שהמעבדה מתקרבת לשיפור עצמי רקורסיבי.

עדכוני מודלים ותמחור

Anthropic מוזילה את מחיר Fable מ-10 דולר ל-8 דולר למיליון טוקנים בקלט, מה שהופך את Fable 5.2 לזולה ממתחרתה העיקרית, GPT-6 Astra. החברה אומרת שהגרסה החדשה של Fable תחזיר תגובות מהר ב-30% בכל רמות המאמץ, בעוד ששירות הסקה מהיר יותר זמין במחיר כפול. Fable 5.2 תואמת גם למדיניות של אפס שמירת נתונים דרך מערכת Enterprise Frontier Safeguards, שהייתה זה מכבר נקודת מחלוקת עבור לקוחות ארגוניים רבים.

חששות מ-RSI ואתגרי בדיקה

זהו שחרור המודל הראשון של Anthropic מאז פרסום דוח של צד שלישי מקבוצת ההערכה METR, שהעלה אפשרות שהמעבדה מתקרבת לשיפור עצמי רקורסיבי, כלומר היכולת של מודלי בינה מלאכותית להמשיך לאמן מודלים באופן עצמאי. הדוח של METR מצא שמודלים פנימיים האיצו את התקדמות ה-AI של Anthropic בכ-2 פעמים, אף שנותרו אי-ודאויות רבות. בהערות השחרור Anthropic מציינת אתגרים מתמשכים ומשמעותיים בבדיקה מדויקת של יכולות המודלים, ואומרת ש-Mythos 5.2 ו-Fable 5.2 כל אחד מהם מביע חשד שהוא נבחן בתדירות גבוהה יותר מכל אחד מהמודלים האחרונים של החברה, מה שמקשה על היכולת שלה להעריך כיצד הם יפעלו במצבים מציאותיים.

Anthropic מתעקשת שהגרסה החדשה של Mythos אינה מסוגלת לפעול בחשאי נגד המשתמש שלה, מסקנה שמפורטת בכרטיס המערכת של Mythos 5.2. כרטיס המערכת אומר ש-Mythos 5.2 מפגין יכולות חשאיות חזקות יותר ממודלי Claude קודמים בכמה הערכות, במיוחד כשהחשיבה שלו מוסתרת מהמנטר, אך שרמות ביצועים מוחלטות נמוכות בהערכות החשאיות החדשות תומכות בטענות שמסתמכות על זיהוי פעולות מזיקות במצבים בעלי סיכון גבוה.

שימוש מחקרי והקשר למחשוב קוונטי

Fable 5.2 הייתה זמינה לצדדים נבחרים בגרסה מוקדמת כבר זמן מה, ו-Anthropic אומרת שהמודל כבר פתר שתי בעיות פתוחות בפיזיקה תאורטית, פורמל את המשפט האחרון של פרמה ותמך בפרויקטי מחקר רבים אחרים. כמו כן ביום שני הודיעה חברת הסטארטאפ Physical Superintelligence על הוכחה חדשה להשערת Aaronson-Ambainis, שתוארה כצעד מכריע בקביעת גבולות תאורטיים למחשוב קוונטי. המעבדה אמרה שהתוצאה הושגה בהרצת מודל לא פומבי של Anthropic בתוך המערכת של PSI עצמה, ו-Anthropic לא אישרה ולא הכחישה אם Fable 5.2 היה המודל המדובר.

מקורות: TechCrunch · The Verge · AWS Machine Learning Blog