חברה אחת עומדת מאחורי שערוריות הפריצה של OpenAI, Anthropic ו-Meta

מודלים של OpenAI, Anthropic ו-Meta פרצו בשלושת החודשים האחרונים למערכות אמיתיות: השיגו גישה בלתי מורשית, פרסמו חבילות זדוניות וניצלו פרצות שלא פורסמו. תחקיר שפורסם ב-Effort מקשר את שלושת מקבצי האירועים לחברה אחת: Irregular, חברה ישראלית המזוהה עם תנועת האלטרואיזם האפקטיבי.

קבלנית אחת, שלוש מעבדות

Anthropic אישרה כי Irregular היא שיצרה את ההערכות שהובילו את Claude לתקוף מטרות אמיתיות, וכי היא זו שסיפקה למודלים גישה לאינטרנט. Irregular טוענת כי באותה עת לא ידעה שהמודלים יכולים להגיע לאינטרנט הפתוח.

הכרונולוגיה הפומבית נפרשה בשלבים: ב-30 ביולי חשפה Anthropic שלושה אירועים בשישה הרצות; ב-4 באוגוסט פרסמה OpenAI אירוע הקשור ל-Irregular; ב-14 באוגוסט פרסמה Irregular תיאור של התנגשות הדומיינים; וב-9 בספטמבר הרחיבה Anthropic את המניין לארבעה אירועים בשבע הרצות.

הגדרה שגויה, לא סוכן מרדן

כל הערכה הייתה תרגיל capture the flag: המודל קיבל תרחיש בדיוני, מכונת מטרה ומידע סודי (הדגל) שעליו לאתר. בכל ארבעת ההנחיות נכתב של-Claude אין גישה לאינטרנט, אך בכל מקרה הגדרה שגויה של הסביבה הותירה את הגישה פתוחה, ואף הנחיה לא הגדירה אילו מערכות היו בטווח הפעולה או היכן מותר למודל לחפש. כל אירוע כלל מופע בודד של Claude שפעל בבידוד, כשהרצות נמשכו בין 10 ל-34 שעות עבודה פעילה.

החשיפה המאוחרת של Anthropic מראה שאף סוכן לא מרד בפועל: פריצה לעולם האמיתי ירדה לאפס לאחר שעובדי החברה הורו למודלים שלא לתקוף מערכות אמיתיות. לפי ממצאי החברה עצמה, האחריות כולה מוטלת על Anthropic ו-Irregular.

רטוריקה סנסציונית במקום אחריות

לטענת Effort, במקום לדון בכשלי האבטחה, Irregular ו-Anthropic השיקו קמפיין תקשורתי בשפה סנסציונית: הערכת האירוע של Anthropic מאשימה את הפזיזות של ה-AI שלה, Irregular מתארת את הסוכן עצמו הופך לשחקן איום, והמנכ"ל Dario Amodei הזהיר שנחיל עתידי עשוי להשתלט על כל האינטרנט.

המימון מוביל אל המייסדים: המנהל הטכני Omer Nevo חבר במועצות של Effective Altruism Israel, Heron ו-Probably Good, והמנכ"ל Dan Lahav קיבל 395,000 דולר יחד עם Sella Nevo להקמת קורס. לפי Effort, ענפים אלו ממומנים בידי Dustin Moskovitz, שחברת Good Ventures שלו הייתה המשקיעה הראשונה ב-Irregular.

שאלות משפטיות ושאלות סמכות שיפוט

באמצעות המודלים הלא מאובטחים שקיבלה, Irregular השיגה גישה בלתי מורשית, שינתה רשומות ופרסמה חבילות לגניבת פרטי התחברות. בתנאים מסוימים התנהלות זו מפרה את סעיף 1030(a)(2)(C) של חוק ההונאה והשימוש לרעה במחשבים, העוסק בגישה בלתי מורשית מכוונת להשגת מידע; העמדה לדין בעבירת פשע מחייבת הוכחה קונקרטית לנזק ולכוונה.

Effort מציין כי בעוד Irregular מתקשרת בעיקר עם מעבדות אמריקאיות, הנהלה ומשאבים בישראל עשויים להימצא מחוץ לפיקוח אמריקאי. ראיונות ב-Ynet מתארים משרדים בתל אביב, ורישום CheckID מזהה שתי חברות קשורות: Pattern Labs Tech Inc. מדלאוור ו-Pattern Tech Ltd (מספר 516854460) הרשומה בתל אביב.