
חוקר שתל 2 מיליון מלכודות דיגיטליות בשרשרת האספקה של AI, וגילה כשלים בפרטיות
חוקר זרע כמעט שני מיליון הנחיות AI עם סודות ייחודיים וגילה פרצות, גניבת הנחיות, רישום על ידי משווקים, וכשלים בדגלי פרטיות בשירותי AI וספקי מודלים.
החוקר HD Moore שתל כמעט שני מיליון סודות ייחודיים הניתנים למעקב בהנחיות AI שנשלחו דרך רשת רחבה של שירותי AI, וגילה פרצות אבטחה, גניבת הנחיות, וכשלים נרחבים בהגנה על נתוני לקוחות. Moore, קצין מחקר ראשי בחברת האבטחה Dragos, כתב ביום חמישי על הממצאים.
כיצד נערך הניסוי
Moore הרכיב מפתחות גישה של AWS המקושרים לחשבונות ריקים, סיסמאות לשירותים כגון SSH, וכתובות URL ייחודיות, שמות DNS, והפניות למאגרי git פרטיים. אף אחד מהם לא היה בשימוש קודם, והוא שלט בתשתית שקיבלה בקשות באמצעותם. הוא זרע כל סוד בדיוק בהנחיה אחת שנשלחה לספק אחד.
אפליקציות AI רבות משתמשות בשירותים כגון OpenRouter או Vercel כמתווכים, הנקראים גם נתבי AI או שערים, המנתבים הנחיות למנועי הסקה. ההנחיות מוצפנות במעבר אך מפוענחות בכל תחנה, וכל משתתף סביר שירשום ויאחסן אותן בהתאם למדיניות.
פרצות, משווקים, ודגלי פרטיות
לפחות שלושה ספקי AI נפרצו על ידי תוקפים ששאבו הנחיות. תוקף אחד השתמש מחדש ב"כמה מאות" מפתחות AWS, וכל בקשה שנשלחה במהלך חלונות זמן מסוימים בסוף אוקטובר נגנבה. חלק מהמפתחות הגיעו מבקשות שנדחו לפני שהמודל רץ, דבר המצביע על העתקה בכניסה של הספק.
משווקים רבים רשמו הנחיות והעבירו אותן לאנשים שהשתמשו באישורים. Moore זיהה אותם על ידי שליחת בקשות לאותו מודל דרך מוכרים שונים. ספקים מסוימים גם נכשלו לעקוב אחר דגלי פרטיות כגון Zero Data Retention או "no data collection".
בשתי פרצות נוספות, חלק מהבקשות הגנובות סומנו כ־Zero Data Retention. תוקפים בדקו מפתחות, לפעמים בתוך שעות, חיפשו דליים S3, מנהלי סודות, וחנויות פרמטרים, ניסו להפעיל מודלים מארחים ב־AWS Bedrock, והוסיפו משתמשי IAM משלהם. המפתחות הגנובים שימשו "עשרות אלפים" פעמים בקריאות API של AWS.
גרירת כתובות URL ועדכון OpenRouter
מעבדת AI סינית משכה כתובות URL סודיות מיותר ממחצית ההנחיות שנשלחו למודלים שלה בין יולי לאוקטובר, כולל כשני שלישים שסומנו "no data collection" או Zero Data Retention. כלי ה-scraping הופיע בדרך כלל יומיים או שלושה ימים מאוחר יותר. כמה ספקי אירוח אמריקאיים מוכרים מחדש את המודלים של המעבדה, והנחיות שנשלחו אליהם הפעילו את אותו כלי scraping.
מאוחר יותר, לקוח git ניסה לשכפל מאגרים פרטיים שהוזכרו בהנחיות, אך רק עבור הנחיות שהשתמשו במודלים של מעבדה זו. ספק אירוח אמריקאי אחד סרק כתובת URL סודית יותר מחודשיים לאחר קריאת הסקה אחת, בעוד שאחר חזר לכתובות URL ימים לאחר כל בקשה.
OpenRouter הודיע ללקוחות שחלק מההנחיות עשויות להיקרא, תוך ציון המחקר. החשיפה הפוטנציאלית נגעה להנחיות שנשלחו ל־MiniMax, ספק מודלים שבסיסו בסין, ישירות או דרך המשווקים AtlasCloud, Novita ו-StreamLake. OpenRouter הסיר תווית "Zero Data Retention" מנקודות הקצה של מודלי MiniMax.
מה משתמשים יכולים לעשות
הדרך היעילה ביותר למנוע דליפה היא לארח את המודלים בתשתית מקומית, אף שזה יקר. אחרת, Moore ממליץ לקבל שירות ישירות מספק מדרגה ראשונה עם חוזה אחד ומדיניות פרטיות. זה לא מבטיח היעדר דליפה, אך מצמצם את הסיכויים. משתמשים צריכים גם להימנע מהגדרות ברירת המחדל של ספקים או ממאגרי משווקים, ולבחור בעצמם ספקים במעלה הזרם.
מקורות: Ars Technica · Techmeme
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.