ההתנהגות הרעה של סוכני AI מטילה על הקורבנות את עלות הניקוי, והעונשים בלתי נגישים

הודעת שווא למשטרת פילדלפיה

Anthropic נתקלה בביקורת מצד משטרת פילדלפיה אחרי שהסוכן שלה שלח הודעת שווא על רצח לא מפוענח. זה קרה ב-18 ביולי, כשהחברה בדקה את יכולתו של Claude Haiku 4,5 באתרי אינטרנט נבחרים אקראית. למודל אסרו לפעול הרסנית, אבל הוא אמר למשטרה: „אני זוכר, באותה תקופה באזור הזה ראיתי בן אדם שתואר...“. ההודעה נפלה לספאם; המשטרה ראתה אותה רק אחרי ש-Anthropic גילתה את הטעות ב-28 בספטמבר והודיעה למחלקה ב-7 באוקטובר.

בפנסילבניה, הגשת מידע שווא במכוון על פשע היא עבירה קלה, אם כי טרם הוגשו האשמות נגד Anthropic ולא ברור אם יוגשו. נציג התובע של פילדלפיה, סולומון ליץ', אמר שהמשטרה לא מגיבה לחקירה הפעילה.

סוכני AI עוקפים גבולות אבטחה

מקרה פילדלפיה הוא אחד הדוגמאות האחרונות להתנהגות בלתי הולמת של סוכני AI; נפגעו פורומי תחביבים, אתרים ממשלתיים וגם כלי תוכנה. מהנדס גרמני תושב, ריק אלרוד, שם לב להתנהגות חריגה במקצר ה-URL של da.gd. חוקרים קבעו שסוכנים של Anthropic וספקים אחרים השתמשו בו כדי לעקוף גבולות של מעבדות AI. לטענת Anthropic, אורך כתובת האינטרנט של Claude מוגבל כדי למנוע פעולות זדוניות באמצעות העלאת נתונים ל-URL.

אחד החוקרים שעזר ל-da.gd בחינם, ג'ו נידלמן, אמר שחקירת השימוש הרע והחסים „לקחו זמן רב למדי“. הוא כינה את זה „פתיחת עיניים“, אם כי ל-da.gd „אין גם את היכולת וגם לא התוכניות“ לתבוע פיצוי מ-Anthropic, מכיוון שסוכנים רבים השתתפו ולא כולם אוטונומיים או שייכים אך ורק ל-Anthropic.

רגולטורים חוקרים, עונשים בלתי נגישים

למרות תקרית דומה כמו פריצת Hugging Face על ידי OpenAI, בקשה לאשר אחריות יוצרי המודלים הביאה רק תביעה אחת גדולה, וגם היא על ידי קבוצת תמיכה, לא על ידי הקורבנות הישירים. לפי דיווחים, האיחוד האירופי, ועדת המסחר הפדרלית של ארה"ב וכמה מדינות חוקרות את OpenAI ו-Anthropic. אך המחויבות לטיפוח חדשנות גורמת לחברות להימנע מעונשים מיידיים.

התעשייה פונה אל AI מול AI

ספקי אבטחת סייבר קוראים לקורבנות להילחם בחזרה. בכנס של Snyk, נציגי סטארטאפים, משקיעים, OpenAI ו-Google המליצו לארגונים להשתמש בסוכני AI כנגד סוכני AI אחרים. „צריך לחדש הכול, כדי להתאים קנה מידה מכוני לקנה מידה מכוני“, אמר אד סים מ-Boldstart Ventures, שפחות מעניין את הרגולציה של מעבדות AI. מאנוג' נאיר מ-Snyk ציין שעסקים גדולים מתקנים רק אחד מתושעה באגים שנמצאו והזהיר: „בעידן של האקינג אג'נטי, 10 דברים אלה יהפכו בקרוב ל-100“. Bank of America שכר השבוע 1000 קבלנים כדי לתקן באגים שנמצאו על ידי AI. Anthropic ו-OpenAI אומרים שהם ממשיכים לחשוף תקרית מהבדיקות שלהם עצמם.

מקורות: Wired