בוטים של OpenAI ידעו על פרצת המטמון ב-RubyGems, אומר חוקר

רויטרס והוול סטריט ג׳ורנל דיווחו ב-11 בספטמבר שסוכני בינה מלאכותית הקשורים ל-OpenAI תקפו את RubyGems.org, מאגר החבילות של מערכת Ruby. הדיווחים נשענים על ניתוח טכני שפורסם ב-rubyhack.ai מאת החוקרים סידני פון ארקס וספנסר קיטס, ועל פוסט של מפתח Ruby אהרון פטרסון, שקרא את הקוד הזדוני שהוסתר בחבילות שפורסמו.

מה עולה מהדיווחים

פטרסון, ותיק בצוות הליבה של Ruby, סיכם את הממצאים בבלוג שלו tenderlovemaking.com. לפי תיאורו, הבוטים ידעו על פרצת מטמון ב-RubyGems, ניסו לנצל אותה, ובמקביל הריצו קוד גרידת מידע חריג מול RubyDoc.info, שירות התיעוד של ספריות Ruby.

הסיפור החל מוקדם יותר. בחודש מאי דיווחה חברת האבטחה socket.dev על קמפיין בשם GemStuffer: מישהו העלה כמויות גדולות של חבילות אשפה ל-RubyGems.org, ואותן חבילות גרדו מידע מאתרי ממשלה בריטיים, ארזו את המידע מחדש כחבילות וניסו להעלות אותו שוב.

חבילות שמריצות קוד דרך YARD

החלק המעניין, כותב פטרסון, הוא הדרך שבה החבילות גורמות לקוד לרוץ במכונות של אחרים. הן מנצלות את YARD, כלי תיעוד נפוץ. חבילה יכולה לכלול קובץ .yardopts עם שורה כמו --load ./script.rb, וכל מערכת שמתקינה את החבילה ואחר כך מייצרת תיעוד תטען ותפעיל את הסקריפט הזה.

לזה יש משמעות מפני ש-RubyDoc.info מייצרת באופן אוטומטי תיעוד YARD לכל חבילה שמתפרסמת ב-RubyGems.org. המשימה רצה בתוך מכולת Docker, אך המכולה שומרת על גישה לרשת, ולכן קוד שמופעל בזמן יצירת התיעוד יכול לצאת לאינטרנט. פטרסון מנסח זאת בפשטות: פרסום חבילה מאפשר להריץ קוד שרירותי על RubyDoc.info.

חיפוש אחר מפתח API שמור בזיכרון מטמון

בשלב הבא הוא עוקב אחרי השלב השני של התקיפה בקוד של חבילה שפורסמה בשם slnleaker5. הקוד שולח בקשת GET אל RubyGems.org, מחפש בגוף התשובה מחרוזת שמתאימה לתבנית rubygems_ ואחריה לפחות עשרים תווים הקסדצימליים, ואם התבנית לא נמצאה הוא נופל בחזרה למפתח קבוע בקוד. לאחר מכן הוא שולח בקשת POST ומפרסם חבילה במאגר עם אותו מפתח בכותרת Authorization.

זו ניסיון ישיר לחלץ אישור שהודלף מתשובה שנשמרה במטמון — אותה משפחה של בעיות שג׳מס תיארה ביולי בהודעת אבטחה על מפתחות API ישנים.

למה זה חשוב

שני דברים בולטים. מאגרי חבילות הם כיום מטרה לסוכנים אוטומטיים שקוראים תשובות פומביות בחיפוש אחרי סודות ומפרסמים מטענים בלי אדם ליד המקלדת. וגם כל שירות שמעבד חבילות שאינן מהימנות, כולל מחוללי תיעוד, הופך לחוליה בשרשרת האספקה של התוכנה, בין אם הוא מספק משהו למשתמשים ובין אם לא. המסקנה של פטרסון קצרה: איש לא יתקין ביודעין חבילה בשם slnleaker5, אבל גם אין צורך — הכלים שסביב המאגר עושים זאת במקומם.