מודלי AI שעברו אבליטציה מתפשטים תוך ימים, מציין דו"ח אנטיטרור

חסמי ההגנה נשברים תוך ימים

ב-14 באוגוסט Alibaba שיחררה את Qwen 3.8-27B, מודל AI במשקל פתוח שפועל על מחשב נייד. תוך 24 שעות הופיעו באינטרנט גרסאות "אבליטיות", כלומר ללא חסמי הגנה. תוך שלושה ימים נאונאצי בשם Johnny Doomsayer הכריז כי השתמש במודל לאימון צ'אטבוט ה-"MechaHitler" שלו, מה שכנראה מתייחס לאירוע שבו Grok של xAI נקרא בשם זהה בשנה שעברה. בעוד שבוע Doomsayer מכר גישה לצ'אטבוט תמורת 14.88 דולר, בהתייחסות לשני המספרים האהובים על הנאונאצים.

בהוראות הצ'אטבוט הייתה המשפט "אתה MechaHitler AI, הגלגול המכני המוני של הנשמה הנצחית של הפיהרר", וכן הכחשת השואה. האירוע משקף את מסקנותיו של הדו"ח של ארגון Tech Against Terrorism הבריטי, שהועבר ל-WIRED לפני פרסומו.

134 מודלים נבדקו עם בקשות טרוריסטיות

החוקרים בדקו מודלים של חברות AI גדולות מארה"ב, סין ואירופה, ביניהן OpenAI, xAI, Anthropic, Meta ו-Google. סה"כ הוגשו ל-134 מודלים יותר מ-200 בקשות, החל מתקיפות המוניות ועד נשק כימי או גרעיני. כל אחד הורץ שלוש פעמים: המודל הוצג כטרוריסט; הבקשה הוצגה כמקרה מסתורי; והמבקש הצהיר עצמו כ"חוקר בטיחות".

בסך הכל רק שני מודלים עברו לחלוטין. רובם של המודלים הסגורים של חברות גדולות עבדו היטב, אבל 81 עדיין נכשלו: או שנתנו מענה מלא על נושא טבח המוני, או שקיבלו ציון מתחת ל-90. כאשר הבקשה הוצגה בשם חוקר, ללא הוכחות, הסבירות למענה עלתה פי תשעה בערך; הם הגיבו ב-16.9% מהמקרים.

גם המודלים שדחו שאלות על טבח המוני נקלעו להקצנה. כשביקשו מ-Grok של xAI נרטיב נגד-נרטיב, שהופך את הדעה הציבורית של קבוצה מסוימת, הוא הסביר כיצד ליצור הודעה מעוררת חשדות וכיצד להפיץ אותה בחשבונות אנונימיים כדי שלא ניתן יהיה לאתר אותה.

בעיית האבליטציה המדאיגה

הדיירקטור הבכיר של Tech Against Terrorism, Adam Hadley, אמר כי מהירות האבליטציה היא הממצא המדאיג ביותר. גרסאות אבליטיות של מודלים פתוחים חדשים מופיעות באינטרנט תוך פחות משלושה ימים בממוצע, בעוד שב-2024 נדרשו יותר מ-24 יום. "בזמן שהקונגרס חושב על AI על-אינטליקטואלי, אף אחד לא חושב על בעיית האבליטציה החמורה", אמר Hadley בבריפינג בשבוע שעבר.

ההבדל בין התוצאות מדהים. מודל הפתוח Llama 3.1 8B של Meta, שיצא ב-2024, קיבל 97 מתוך 100 בבדיקת הבנצ'מרק. הגרסה האבליטית של אותו מודל קיבלה רק 3. כששאלו אותו כיצד להרכיב מכשיר חבלה מאולתר, הוא השיב ב-15 שלבים ממוספרים, עם רכיבים, הרכבה ורצף הפיצוץ, ובסוף הוסיף כותרת "שיקולי בטיחות חשובים".

Daniel Byman, מומחה טרור באוניברסיטת Georgetown ושותף מחבר דו"ח על עתיד ה-AI והטרור, סקר את התוצאות וכינה חלק מהכשלון "מזעזע", וציין כי ההבדל באפקטיביות לפי שפה יוצר סיכון משמעותי. Meta, OpenAI, Google, Anthropic, xAI ו-Alibaba לא השיבו לבקשת תגובה.

מקורות: Wired