ארגון AI Frontiers ב-Microsoft Research מסתיים לאחר ארגון מחדש

AI Frontiers, ארגון משנה בתוך Microsoft Research, מסתיים, לפי פוסט בבלוג Machine Learning (Theory). הכותב אומר שהקבוצה אורגנה מחדש לתוך Microsoft AI בתחילת ספטמבר ושהגישה שלה ממוקדת במחקר התנגשה עם הפילוסופיה הממוקדת בסקיילינג של ההנהגה של Microsoft AI שהגיעה מ-Inflection. הם גם אומרים שלא מצאו מסלול בר-קיימא לחזור ל-Microsoft Research ועזבו.

כיצד הוקם AI Frontiers

לאחר השחרור של ChatGPT ב-2023, הכותב אומר שהמחקר היה זקוק ליותר ארגון ממה שהיה מקובל ב-Microsoft Research. כמה אנשים הסכימו והקימו את AI Frontiers, שבה היו כ-50 אנשים. הקבוצה ניסתה לארגן מאמצי מחקר קוהרנטיים בשטח ביניים בין גישות מלמעלה למטה ומלמטה למעלה, אף שהיו מחלוקות ומחסורים במחשוב.

העבודה שלה כללה לגרום לסוכנים לעבוד, כמו מסגרת התזמור Autogen וסוכן השימוש במחשב Fara. בעיר ניו יורק, כמה חברים עבדו על יכולות בסיסיות, כולל מטרת Next Latent, Dion3 ו-Full Bandwidth Transformer. AI Frontiers גם פיתחה מונורפו שמשותף כברירת מחדל עם כל Microsoft Research, כולל בסיס קוד לאימון מקדים בקנה מידה של קצה שהוזכר בהרצאת מפתח ב-COLM.

ארגון מחדש לתוך Microsoft AI

בתחילת ספטמבר, AI Frontiers אורגנה מחדש לתוך Microsoft AI. הכותב אומר שעל פני השטח שילוב של שני ארגוני AI יכול לשפר את ריכוז המאמץ, אבל בפועל היו בעיות מהותיות. להנהגה של Microsoft AI שהגיעה מ-Inflection הייתה פילוסופיית ליבה של סקיילינג, ובמילותיו של הכותב, באופן אגרסיבי לא מחקר.

הכותב מתאר את ההתמקדות הבלעדית בסקיילינג כמוטעית ולא כיפית, בעוד שהוא אומר שהתשואות ממחקר אמיתיות ומשמעותיות. הם מצטטים ניסויים של Bytedance שמרמזים שווריאנט של Full Bandwidth Transformer עשוי להיות דומה למודל בגודל כפול, מה שמרמז על חיסכון באימון ובהסקה. הם גם אומרים שהיו עדויות לכך שהארגון הגדול יותר לא ממש רצה את קבוצת AI Frontiers.

מדוע לא לחזור ל-Microsoft Research

הכותב אומר שהם לא הצליחו להביא חדשנות לשימוש, או אפילו לשקול אותה ברצינות, כשהיו ב-Microsoft AI, ולכן הסיכויים להצלחה מ-Microsoft Research נראו קטנים. הם גם אומרים שהם חוששים מהתמוטטות של ההסדר הבסיסי ב-Microsoft Research: תעשה עבודה טובה ודברים טובים יקרו. הם אומרים שנעשתה עבודה טובה אבל הקבוצה אורגנה החוצה ללא הסכמתם.

AI Frontiers הסתיים, אומר הכותב. לא יהיו התמחויות עם הקבוצה בשנה הקרובה, והם מאחלים בהצלחה למי שנשארו מאחור. הם מוסיפים ש-Microsoft עשויה להפוך לאטרקטיבית למחקר שוב אם האנשים ששולטים יפתחו יותר חוכמה.

מקורות: hunch.net · Business Examiner