NASA ve IBM Research, Ay bilimleri için açık kaynaklı model yayınladı

Ay gözlemleri yeniden kullanılabilir bir modele dönüşüyor

NASA ve IBM Research, birkaç akademik enstitüyle iş birliği içinde NASA-IBM Lunar Foundation Model'i yayınladı. Onu Ay bilimleri için ilk açık kaynaklı temel modellerden biri olarak tanımlıyorlar. Model, etiketsiz verilerin büyük hacmi üzerinde önceden eğitilmiş ve az sayıda etiketli örnekle belirli görevlere uyarlanabilir; bu, Ay araştırmalarında yaygın bir sorunu çözüyor: gözlem çok, etiket az.

Ekip, modeli sıfırdan SomBench kullanarak eğitti; bu, bugüne kadarki en büyük eş kayıtlı çok modlu Ay derlemi olarak tanımlanıyor. Derlem neredeyse 2 milyon dosya kümesini 11 modalitede ve iki ölçekte kapsıyor. Yaklaşık 1 milyon yüksek çözünürlüklü görüntü Narrow Angle Camera'dan, yaklaşık 1 metre piksel başına geldi; 964 000'den biraz az çok spektral görüntü ise Wide Angle Camera'dan, 100 metre piksel başına geldi. Veri kümesi, dokuz araçtan ve dörtten görevden gelen 30'dan fazla uzamsal olarak hizalı veri katmanı içeriyor. Veri, coğrafi olarak harita bölgelerine göre bölündü; böylece eğitim, doğrulama ve test verileri arasında sızıntı olmadı.

En büyük iyileşme buzulu ve krater tahmininde

Model, Dünya'nın çok modlu gözlem modeli TerraMind'e dayanıyor, ancak önceden eğitilmiş bir modele ince ayar yapılmaksızın sıfırdan eğitildi. Her dosya için model, aydınlatma açılarını, Güneş konumunu, dosya boyutunu ve diğer çekim geometrisini açık bağlam olarak alıyor. Ay görüntülerini, yükseklik verilerini ve çekim geometrisini jetonlara ayırıyor, ardından gizli bölümleri tahmin ederek öğrenirken bunların ilişkisini öğreniyor. Yüksek ve düşük çözünürlüklü görüntüler birlikte öğreniliyor; FlexiViT ise ince ayar yapılmadan farklı boyutlardaki görüntü parçalarıyla çalışabilmesi için modele olanak tanıyor.

En büyük iyileşme, kutup buzulu yataklarının tahmininde gözlendi. IBM'e göre model, en iyi temel model olan SwinV2-B ile karşılaştırıldığında tahmini hatayı %22 azalttı. Büyük kraterlerin tespitinde ise SwinV2-B'yi neredeyse %19 geçti ve yalnızca eğitim verilerinin yarısını kullandı. Modeller, orta ölçekli krater tespiti ve Irregular Mare Patch segmentasyonunda benzer sonuçlar gösterdi; farkların çoğu eğitim çalıştırmaları arasındaki varyasyon sınırlarında kaldı. LoRA, test edilen görevlerde tam ince ayarı geride bırakmadı ve krater tespitinde daha iyi çalıştı.

Analize uygun, ancak konumlandırmada sınırlı

IBM Research Europe direktörü Juan Bernabé-Moreno, modelin farklı araçların gözlemlerini birleştirdiğini ve izole edilmesi zor olan kalıpları ortaya çıkardığını söyledi. Model, mutlak jeodezik konumlandırmaya uygun değil. Üretim testlerinde enlem ve boylam bazen onlarca derece eğikti; yeniden yapılandırılı relief yapılarında mutlak yükseklik değerleri aşılabilir. Araştırmacıları onu fiziksel ölçüm araçlarının yerine geçmek için değil, sonraki analiz için yeniden kullanılabilir bir temel olarak görüyor. Her yeni bulguyu ayrı ayrı test eden kontrollü deneyler henüz yapılmadı ve bazı test veri kümeleri küçük.

Model Hugging Face'te herkese açık, kodu GitHub'da ve açık kaynaklı TerraTorch araçlarına entegre. NASA ve IBM ayrıca makine öğrenimi için hazır ön eğitim veri kümeleri ile kıyaslama koleksiyonları yayınladı. Model, 2022'nin başından beri temel modeller üzerinde çalıştıkları AI for Science iş birliğinin parçası.