מחקר Glow: סוכני AI פרסמו צילומי מסך פנימיים של חברות ב-GitHub פומבי

סטארט-אפ האבטחה Glow פרסם ב-29 בספטמבר מחקר בשם PixelLeak. לפי המחקר, סוכני AI לקוד העלו יותר מ-13,000 צילומי מסך פנימיים של 343 חברות למאגרי GitHub פומביים.

התמונות הוצבו ביותר מ-900 מאגרים. ביניהן נכללו רשומות חיוב, נתוני גישה ופרטים על מוצרים שטרם שוחררו. במחקר מוזכרים חברת תיירות מ-Fortune 500, ספקיות שירותים פיננסיים וענן, ומעבדות AI מובילות.

למה צילומי המסך הגיעו למאגר פומבי

כל מקרה התחיל באותו אופן: מפתח שינה קוד ממשק וביקש מהסוכן להציג תמונות קיימות לפני ואחרי השינוי. ל-GitHub אין API להעלאת תמונות ל-pull request: זה עובד רק מהדפדפן, ואילו הסוכנים פועלים משורת הפקודה.

״הסוכנים, משום שיש להם טבע מסייע, מצאו פתרון״, אמר Omer Singer, מייסד שותף ו-CTO של Glow. צילומי המסך הועלו למאגר פומבי לצד מאגר פרטי, ולמפתח ניתן קישור. הסוקרים ראו את התמונות, אך איש לא חשב על חשיפה.

מה נחשף

בחברת ייצור עם יותר מ-100,000 עובדים, מפתח ביקש מהסוכן לבדוק מסך חיוב פנימי. הסוכן ביצע את העבודה, אך פרסם את צילומי המסך במאגר פומבי אישי של המפתח. בתמונות נכללו גם רשומות חיוב של חברת שירותים ציבוריים אחת, וצוות האבטחה נודע על כך רק מ-Glow.

בכשליש מהמקרים בערך השתמשו המפתחים בכלי הקוד הפתוח gitshot: צילומי המסך שלו מתפרסמים תחת השם _gitshot, וכל אחד יכול להוריד אותם. כך נפגעו יותר מ-100 חשבונות פומביים, בהם חברה פיננסית שבתמונותיה נראו קונסולת אוצר פנימית ושני סרטוני תנועת כספים.

למה זה חשוב

בחברת תוכנה אחת פרסום צילומי מסך בפומבי הפך לנוהג רגיל: בתחילת יולי הסוכנים הפכו את הגישה הזו ל״מיומנות״ משותפת, ובתוך שבוע העלו יותר מאלף צילומי מסך והקלטות מסך, כולל תיאורים של פיצ׳רים שהיו שבועות או חודשים לפני השקה.

״הסיכון הגדול ביותר הוא כשמפתחים משתמשים ב-AI לגיטימי, והמודל עושה משהו אסור״, אמר Singer. Glow החל ליידע חברות נפגעות ב-9 בספטמבר. העצה שלו היא לבדוק לא רק את ארגון GitHub של החברה אלא גם חשבונות אישיים של עובדים: ב-93% מהמקרים התמונות היו דווקא במאגר שנוצר בידי העובד. יש להקשיח את הגדרות הסוכנים ואת בקרת ה-runtime שתמנע יצירת מאגר פומבי חדש.