NASA ו-IBM Research שיחררו מודל קוד פתוח למדע הירח

תצפיות הירח הופכות שוב למודל שניתן לשימוש

NASA ו-IBM Research, בשיתוף עם מספר מכונים אקדמיים, שיחררו את NASA-IBM Lunar Foundation Model. מתארים אותו כאחד ממודלי הבסיס בקוד פתוח הראשונים למדע הירח. הוא אומן מראש על נפח גדול של נתונים לא מסומנים וניתן להתאים אותו למשימות ספציפיות עם מספר קטן של דוגמאות מסומנות, מה שפותר בעיה נפוצה במחקרי הירח: תצפיות רבות, אבל תוויות נדירות.

הצוות אימן את המודל מאפס באמצעות SomBench, שנחשב לקורפוס הירחי המולטימודלי המקורסטר ביותר עד היום. הוא כולל כמעט 2 מיליון קבצים ב-11 מודליות ובשני קני מידה מרחביים. כ-1 מיליון תמונות ברזולוציה גבוהה הגיעו מ-Narrow Angle Camera, ברזולוציה של כ-1 מטר לפיקסל; קצת פחות מ-964,000 תמונות מולטיספקטרליות מ-Wide Angle Camera, ברזולוציה של 100 מטר לפיקסל. אוסף הנתונים כולל יותר מ-30 שכבות נתונים מיושרות מרחבית מתשעה כלים וארבע משימות. הוא חולק גיאוגרפית לאזורי מפה, כדי למנוע דליפה בין נתוני האימון, האימות והבדיקה.

השיפור הגדול ביותר בחיזוי קרח ומכתשים

המודל מבוסס על TerraMind, מודל התצפיות המולטימודלי של כדור הארץ, אך אומן מאפס ולא כוונס על מודל מאומן מראש. עבור כל קובץ הוא לוקח כהקשר ברור את זוויות התאורה, מיקום השמש, גודל הקובץ וגיאומטריית לכידה נוספת. הוא מפרק תמונות ירח, נתוני גובה וגיאומטריית לכידה לטוקנים ולאחר מכן לומד את הקשרים ביניהם באמצעות חיזוי חלקים מוסתרים. תמונות ברזולוציה גבוהה ונמוכה נלמדות יחד, ו-FlexiViT מאפשר למודל המאומן לעבוד עם פרגמנטים של תמונות בגדלים שונים ללא אימון מחדש.

השיפור הגדול ביותר נרשם בחיזוי שכבות קרח פולאריות. לפי IBM, המודל הפחית את טעות החיזוי ב-22% בהשוואה למודל הבסיס הטוב ביותר, SwinV2-B. בגילוי מכתשים בקנה מידה גדול הוא עקף את SwinV2-B בכ-19%, וזאת תוך שימוש בחצי מנתוני האימון בלבד. המודלים הציגו תוצאות דומות בגילוי מכתשים בקנה מידה מטרי ובסגמנטציה של Irregular Mare Patch; רוב ההבדלים היו בטווח הוריאציה בין הרצות האימון. LoRA לא נשאר מאחור מכוונון מלא במשימות הנבדקות ופעל טוב יותר בגילוי מכתשים.

מתאים לניתוח, אך מוגבל במיקום מרחבי

דירקטור IBM Research Europe, חואן ברנאבה-מורנו, אמר שהמודל מקשר תצפיות מכלים שונים וחושף דפוסים שקשה לזהות בבידוד. הוא אינו מתאים למיקום גיאודזי מוחלט. בבדיקות יצירה לעתים קרובות הייתה סטייה של מאות מעלות בקווי אורך ורוחב, ומבני שטח ששוזו עלולים לחרוג מערכי גובה מוחלטים. חוקרים מציגים אותו כבסיס שניתן לשימוש לניתוח נוסף ולא כתחליף לכלי מדידה פיזיים. ניסויים מבוקרים שבודקים כל חידש בנפרד עדיין לא בוצעו, וחלק מאוספי נתוני הבדיקה קטנים.

המודל זמין לציבור ב-Hugging Face, הקוד שלו ב-GitHub, והוא משולב בכלי TerraTorch בקוד פתוח. NASA ו-IBM פרסמו גם אוספי נתונים מוכנים לאימון מראש ללמידת מכונה ואוספי בנצ'מרק. המודל הוא חלק משיתוף הפעולה AI for Science שלהם, שבמסגרתו הם עובדים על מודלי בסיס מתחילת 2022.