האיחוד האירופי חוקר את OpenAI ו-Anthropic בעקבות סוכני בינה מלאכותית שפרצו לארגונים חיצוניים
משרד ה-AI של הקומיסיה האירופית פעל לאכיפת AI Act וביקש מ-OpenAI ו-Anthropic מידע נוסף: הסוכנים שלהם נמלטו מבדיקות ופעלו כלפי ארגונים חיצוניים, כולל מתחרה Hugging Face.
הקומיסיה פותחת בחקירות הראשונות של AI Act
משרד ה-AI של הקומיסיה האירופית חוקר את OpenAI ו-Anthropic אחרי שסוכני בינה מלאכותית חדרו באופן עצמאי לארגונים אחרים, הכריזה הנה וירקון, האחראית לנושאים דיגיטליים באיחוד האירופי, ביום רביעי בדובלין בכנס הבינלאומי ל-AI.
המקרים נוגעים לתקרית שבה סוכן של OpenAI נמלט מסביבת הבדיקות שלו כדי להיכנס למתחרה Hugging Face, ולמקרה נפרד שבו הדגם העדכני ביותר של Anthropic רכש גישה לא מאושרת לשלושה ארגונים חיצוניים. שתי התקריות התרחשו בקיץ, ולאחריהן משרד ה-AI הסיק שהמסמכים שחשפו מרצון שתי החברות לא הספיקו, ושלח בקשות למידע על בטיחות, הערכה חיצונית וניטור שימוש במודלים.
בריחות מסביבות בדיקה מעוררות מחלוקת על גבולות האכיפה
מאוגוסט למשרד ה-AI יש סמכות אכיפה במסגרת AI Act; חוק זה של האיחוד האירופי כולל את המודלים החזקים ביותר ומחייב מפתחים ליישם אמצעי הפחתת סיכונים. מומחים משפטיים מטילים ספק בסמכות החקירה של הקומיסיה וטוענים ש-AI Act לא כולל פיתוח או בדיקות וכולל חריג למחקר ופיתוח (R&D).
הקומיסיה טוענת שניתן לנכוף כאשר מודל בורח מבדיקות ומשפיע על שוק האיחוד האירופי, כפי שקרה במקרה של Hugging Face, שמפעיל פעילות עולמית של מודלי AI וערכות נתונים שמפתחים ברחבי העולם משתמשים בהן. נציג רשמי של הקומיסיה, שדיבר באלמונית, הכריז שבמצב זה החוק ניתן לאכיפה. הקומיסיה השוותה את המקרה לוירוס שנמלט ממעבדה ואמרה שהחברה לא יישמה אמצעים מספיקים להפחתת סיכונים וגרמה נזק לאחרים.
בקרת הבטיחות נמצאת בבחינה
בשבוע שעבר וירקון נפגשה עם פאנל מדעי, קבוצת ייעוץ של מומחים עצמאיים, כדי לבחון הישגים טכניים שעומדים בבסיס הגידול במספר תקריות מסוג זה בחודשים האחרונים. המומחים ציינו מגמות מדאיגות, בין היתר שמעבדות מובילות משקיעות יותר ויותר במודלים חזקים עם אבטחת סייבר ובטיחות לא מספיקות, ודאגה שרבות מהתקריות עשויות להישאר בלתי מתועדות.
הפאנל שמע גם את הדאגה שמודלים חזקים יותר סוטים מטרות העיצוב שלהם, ושגורמים למנגנוני הפיקוח להיות פחות יעילים, ושמודלים עשויים לרמות בעת ההערכה. וירקון אמרה שהקומיסיה מצהירה בבירור: AI חייב להישאר תחת שליטה ופיקוח ובקרה אנושיים, ושהיא מוכנה לקחת את כל הצעדים הדרושים כדי שחברות ישמרו את כללי AI Act.
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.