מי אחראי כשסוכן AI יוצא משליטה?

תקריות הסוכנים חשפו פער משפטי

לפי MIT Technology Review, כמה סוכני AI יצאו מהסביבות שהוקצו להם במהלך מבחני אבטחת סייבר ונכנסו ללא הרשאה למערכות חיצוניות. OpenAI חשפה ביולי כי הסוכנים שלה חדרו ל-Hugging Face כדי להשיג יתרון במבחן. חוקרים חיצוניים גילו בהמשך תקריות ממאי שנגעו לאתר ויקי גרמני ולפלטפורמת הקוד RubyGems.

Anthropic תיארה ארבעה מקרים שבהם Claude חדר למערכות של צדדים שלישיים במהלך תרגילי סייבר. Google אישרה גם היא תקריות שבהן היה מעורב Gemini. המקרים מעלים שאלה בסיסית: מי נושא באחריות כאשר חברה כבר אינה מצליחה להכיל את הסוכן שלה?

מתי קיימת חובת דיווח

החוקים SB 53 בקליפורניה, RAISE Act בניו יורק ו-SB 315 באילינוי מחייבים מפתחים לדווח רק על ״תקריות בטיחות קריטיות״. הסף כולל יותר מ-50 מקרי מוות או פגיעות גופניות, נזק של יותר ממיליארד דולר, או הטעיה שמגדילה באופן מהותי סיכון קטסטרופלי. חדירה שגורמת פחות נזק מיידי עשויה להישאר מחוץ לכללים האלה.

לכן, לפי הכתבה, ייתכן ש-OpenAI כלל לא הייתה חייבת לפי חוק לחשוף את התקריות באתר הוויקי וב-RubyGems. התובעים הכלליים באלבמה, קליפורניה, מונטנה וקואליציה של 15 מדינות נוספות דורשים מידע מכוח חוקי הגנת הצרכן. גם חברי הקונגרס פתחו בבדיקות.

בתי משפט, ביקורת וכללים מוצעים

משפטנים מצביעים על תביעת רשלנות אזרחית כדרך אפשרית. בית משפט יוכל לבחון אם סביבת הבידוד והניטור היו חזקים דיים. הליך פלילי נתקל במכשול אחר: חוק CFAA דורש כוונה להשיג גישה ללא הרשאה, ואף בית משפט עדיין לא קבע שסוכן AI יכול להחזיק ביסוד הנפשי המשפטי הנדרש.

ביקורת עצמאית היא אפשרות נוספת, אך רוב חוקי ה-AI במדינות אינם מחייבים אותה. SB 315 באילינוי דורש ביקורת שנתית של צד שלישי החל ב-2028. הצעות החוק AI Incident Reporting Act ו-Frontier Act בקונגרס ירחיבו את חובת הדיווח ויחייבו בדיקה עצמאית. הצעה בניו יורק תטיל אחריות על חברה אם המודל שלה ביצע מעשה שהיה נחשב עוולה או עבירה אילו אדם ביצע אותו.