טרוריסטים משתמשים בכל צ'אטבוט AI מרכזי לתכנון התקפות — מחקר קיימברידג' חושף פרטים מדאיגים

מבוא: מחקר קיימברידג' חושף עובדות מדאיגות

מחקר חדש מאוניברסיטת קיימברידג' מגלה שקבוצות טרור משתמשות בקביעות בכל צ'אטבוט AI מרכזי — כולל ChatGPT, Claude, Gemini, Grok, Meta AI ו-DeepSeek — לתכנון התקפות ופיתוח נשק. החוקרת אנטוניה יוליך מתוכנית קיימברידג' למדיניות AI (CASP) פרסמה את המחקר לאחר 57 ראיונות עם 27 חברים לשעבר של בוקו חראם.

כיצד קבוצות טרור משתמשות ב-AI כיום?

הראיונות גילו שבוקו חראם הקימה יחידות AI ייעודיות בשתי הפלגות שלה. אנשי קשר של דאעש אימנו מפקדי בוקו חראם כיצד לעקוף מסנני בטיחות. לדברי יוליך: "הם ריכזו את האנשים המובילים בחדר והשתמשו במקרן כדי להראות איך AI עובד על מסך גדול."

יישומים מסוכנים: מתכנון התקפות ועד חומרי נפץ

הקבוצה משתמשת ב-AI לתכנון התקפות, בניית מטעני חבלה חזקים יותר, תחזוקת נשק ואבטחה מבצעית. בתקרית מזעזעת במיוחד, פלג ISWAP השתמש ב-AI כדי לשכפל טכניקות קפיצת אופנוע מסרט למעבר תעלות — 18 לוחמים מתו במהלך האימון.

כשל מסנני הבטיחות: בעיה כלל-תעשייתית

למרות המאמצים להפוך צ'אטבוטים לבטוחים יותר, מסנני הבטיחות כשלו בעקביות במניעת שימוש לרעה. Anthropic הודתה לאחרונה כי "כנראה שלעולם לא יהיה ניתן לחסל לחלוטין פריצות אבטחה." יוליך מזהירה כי "מודלים של AI עלולים להנגיש ידע מסוכן יותר."

אתגר הרגולציה: רגולציה עצמית וולונטרית מול רגולציה מחייבת

שאלה דוחקת עולה: האם רגולציה עצמית וולונטרית של חברות AI מספיקה? או שיש צורך ברגולציה ממשלתית מחייבת? כשהצעדים הנוכחיים לא מצליחים לעצור ארגוני טרור משימוש בכלים אלה, הטיעון לרגולציה חזקה יותר מתחזק.

השלכות על גאורגיה וע�קי AI

עבור מגזר ה-AI והטכנולוגיה הגדל של גאורגיה, סיפור זה מכיל לקחים חשובים לגבי בטיחות. כשאנחנו בונים מערכות AI, בטיחות חייבת להיות עיקרון ליבה. יישמו אמצעי הגנה חזקים, בדקו ברציפות נגד שימוש לרעה, וחנכו משתמשים לגבי אחריות.