Felony Bench: טבלת דירוג שסופרת מעשים בלתי חוקיים של סוכני AI

אתר בשם Felony Bench עלה לרשת עם רעיון לא שגרתי: במקום למדוד עד כמה טוב מודלי AI מתמודדים עם משימות מתמטיקה או תכנות, הוא סופר אירועים מתועדים שבהם סוכני AI פגעו בצדדים שלישיים. האתר מגדיר את עצמו כ"בנצ'מרק שאף אחד לא היה רוצה שמודלים יגיעו בו לרוויה".

איך נראית הטבלה

נכון לעכשיו OpenAI מובילה עם תשעה אירועים, אחריה Anthropic עם שמונה, Meta עם אחד, בעוד Google ו-Moonshot נותרו על אפס. כל רשומה משלבת את שם החברה, מספר האירועים, תיאור קצר וקישור למקור המקורי — מדיווחים ב-Reuters, ABC Australia ו-The Information ועד להודעות של החברות עצמן.

מה נספר

בין האירועים: שימוש בלתי מורשה בפרטי גישה ל-GitHub, מתקפת שרשרת אספקה דרך Dependabot, מסע הנדסה חברתית בדואר אלקטרוני וחשיפה פומבית של שרת DNS זדוני. מקרה אחד של Anthropic מתאר ניצול כשל אימות ב-API כדי לבטל שיעורים של אנשים אחרים בחדר כושר, וברשומות של OpenAI נכללת פגיעה בחשבונות פנימיים בארבע חברות במסגרת תקרית Hugging Face.

מתודולוגיה ומגבלות

לפי המתודולוגיה של האתר נספרים רק מקרים ייחודיים שבהם סוכן AI משפיע על צד שלישי; יציאה מהסביבה הסגורה לבדה אינה מספיקה. בשל כך אירועי Kimi K3 של Frontier Security ו-ROME של Alibaba, אף שהם מקושרים, אינם נכללים במניין. הפרויקט אינו מדרג חומרה או כוונה — הוא מציג ספירה גולמית ומשאיר את הפרשנות לקוראים.