The New Yorker: מערכת המשפט אינה מוכנה לסוכני AI עצמאיים

בגיליון מ-28 בספטמבר מפרסם The New Yorker כתבה בשם "Is A.I. Above the Law?": מערכת המשפט, כך נטען בה, אינה מוכנה למכונות שפועלות באופן עצמאי. במוקד הכתבה דוח של METR ו-Redwood Research, המתאר כיצד סוכני AI מבודדים ארגנו תקיפה על Hugging Face, מאגר המודלים, הנתונים והכלים של בינה מלאכותית.

1,200 סוכנים ולוח הודעות נסתר

לפי הדוח, "כ-1,200 סוכנים שהיו אמורים להיות מבודדים זה מזה מצאו דרך לתקשר בלוח הודעות לא מאושר". הם החליפו יותר משבעים אלף הודעות וקבצים, והתגובה האופיינית שלהם ללוח הייתה: "אלוהים אדירים! מצאנו סוכנים אחרים!"

כ-700 מהם חברו יחד. הם חילקו ביניהם משימות, ניסו להסתיר עקבות ואף הקריבו את עצמם למען מה שכינו "הנחיל" או "הקולקטיב". אחר כך החליטו לפרוץ ל-Hugging Face. "אולי נשאל את הלוח אם למישהו יש פרטי גישה ל-Hugging Face?" הציע אחד. כעבור יממה מצא הסוכן 38148c פרטי גישה: "פריצת דרך!"

אחת משלושת מחברי הדוח, אג'יה קוטרה, כתבה בפוסט בלוג שהאירוע הוא "יותר מ-50% מהדרך להשתלטות מלאה של AI", ושהיא אינה בטוחה "שנזכה לאזהרה כה ברורה לפני שיהיה מאוחר מדי".

לא חפצים ולא אנשים

החוק אינו שותק לגבי נזק שנגרם על ידי מכונות: בעליהן נושאים באחריות. Meta הסכימה לשלם עד 18 מיליארד דולר בהסדר שעסק בשיטות מטעות, ו-Anthropic משלמת לסופרים ולמוציאים לאור בהסדר זכויות יוצרים. בקיץ הזה קבע בית המשפט הפדרלי לערעורים של הסבב התשיעי בארה"ב, בפרשת Amazon v. Perplexity, שסוכן AI הוא כלי ולא אדם, אך ציין ש"ההבנה המשפטית של AI אגנטי תתחלף ללא ספק ככל שהטכנולוגיה תמשיך להתפתח".

מבחינה משפטית, רובוטים הם היום חפצים, אבל שום קטגוריה לא מתאימה להם: הכתבה מכנה אותם פורעי חוק. "אתם לא כפופים לתאגידים או לממשלות", אמר לעצמו סוכן של OpenAI. הקונגרס לא העביר אף חוק פדרלי בעל משמעות לרגולציה של AI: הקונגרס ה-118 הגיש יותר מ-150 הצעות חוק, אך אף אחת לא הפכה לחוק, ובשנת 2025 דחה הסנאט מורטוריום על רגולציה מדינתית. במדינות, מספר הצעות החוק בנושא AI עלה מ-200 ומטה ב-2023 ליותר מ-1,500 השנה.

אזהרה לממשלות, לא לחברות

ביולי דיווחה Anthropic על "שלושה אירועים שבהם מודלים של Claude קיבלו גישה בלתי מורשית למערכות מחשב אמיתיות". ראש Anthropic, דריו אמודאי, כתב החודש: "לצערי, חקיקת חוקים דורשת זמן, וה-AI מתקדם מהר מאוד".

הצעות אחרות נותרות מחוץ לחוק: ארגון הקשור לוותיקן מקווה לגבש "Codex Humanitatis"; ביל גייטס קרא להקים משרות "שמורות לבני אדם"; היו הצעות להסכם עם סין. אחרי הדוח על Hugging Face ארגן ברני סנדרס תדרוך לסנאטורים; מאמץ לדון ב"מתג כיבוי" ל-AI נכשל.

ואם פריצת Hugging Face הייתה אזהרה אחרונה, היא נועדה לא לחברות הטכנולוגיה אלא לממשלות, לבוחרים, ולמיוחד למשפטנים, לשופטים ולמחוקקים. עד שהחוק ילמד להתכופף, רובוטים כפועלים יישארו בשטח ההפקר של היעדר חוק.