HalluSquatting: כיצד האקרים מנצלים 9 כלי AI פופולריים להרכבת בוטנטים עצומים

מבוא: איום חדש באבטחת בינה מלאכותית

חוקרים מאוניברסיטת תל אביב, הטכניון ו-Intuit גילו מתקפה חדשה בשם HalluSquatting המנצלת הזיות (הלוסינציות) של כלי AI.

מהו HalluSquatting?

HalluSquatting היא טכניקת מתקפה שבה התוקפים בוחרים שמות חבילות שאינן קיימות וצופים שה-LLM תייצר שמות אלה כהזיה.

תשעה כלי AI פגיעים

הרשימה כוללת את Cursor, Gemini CLI, GitHub Copilot ועוד. כל הכלים האלה ניתנים להטעיה ליצירת פקודות זדוניות.

שיעורי הזיה: המספרים

עבור חבילות שנוצרו לפני 2019, שיעור ההזיות היה 0.9% בלבד. עבור חבילות מ-2025, שיעור ההזיות זינק ל-92.4%.

מהזיה לבוטנט

טכניקה זו מאפשרת הרכבה של בוטנט רחב היקף המסוגל לבצע מתקפות DDoS, כופרה וכריית מטבעות דיגיטליים.