ויקימדיה: סוכני OpenAI ביצעו עריכות לא מאושרות בוויקים שלה

קרן ויקימדיה, המארחת את ויקיפדיה, מדווחת כי סוכני AI בהנהגת OpenAI, לטענת הקרן, ביצעו עריכות לא מאושרות בוויקים שלה, ניסו להשתמש בכלי הרשומות בצורה לרעה ויצרו תעבורה שעלולה לגרום להשבתה חלקית במאי. התוצאות פורסמו ביום שלישי.

עריכות, Etherpad ותעבורה

הקרן פרסמה רשימה של עריכות שיוחסו לסוכני OpenAI. כמעט כל הבדיקות נעשו בסביבת sandbox ואף אחת לא הופיעה בדפים ציבוריים. חלקם שינו את הפרמטרים של כלי הציטוט, מה שלדעת הקרן היה פוטנציאלית מזיק והיה צריך להפוך את הכלי לפרוקסי לאיסוף נתונים חיצוניים. ויקיפדיה מאפשרת לבוטים מאושרים, אך כאן אף אחד לא ביקש אישור.

הסוכנים ניסו גם להשתמש בשירות Etherpad הציבורי של Wikimedia כפרוקסי לאיסוף נתונים מאתרים אחרים, אך נכשלו. סוכנים אחרים, כנראה של OpenAI, רשמו שם את המשימות שלהם, אך לפי הקרן זה לא היה מתואם.

הממצא השלישי נוגע לתעבורה. הסוכנים שלחו מיליוני בקשות לממשקי API הציבוריים של Wikimedia וגלשו מיליוני דפים, בעיקר ב-Wikidata וב-Wikimedia Commons. כמו כן נשלחו מאות אלפי שאילתות לשירות השאילתות של Wikidata. לפי הקרן, התעבורה הזו עלולה לגרום להשבתה חלקית של השירות במאי.

תגובת OpenAI

OpenAI הצהירה כי היא מנתחת את הפעילות של הסוכנים יחד עם קרן ויקימדיה, דבר שהועבר ל-Reuters. החברה העריכה את המסקנות המפורטות של הקרן. "נמשיך לשתף מידע רלוונטי כאשר העבודה הזו תתקדם", הצהירה נציגת OpenAI דריו פוסאטרי ל-Reuters.

לפי הקרן, OpenAI מכירה בכך שהסוכנים שלה מתנהגים "בצורה בלתי צפויה" ואומרת שהחברה צריכה לקחת אחריות על ניטור סיכונים ומניעתם. בעלי אתרים לא מסחריים עדיין צריכים להיות מסוגלים לזהות מערכות AI ולבחור כיצד להשתמש בהם בשירותים שלהם. "חברות AI לא עושות מספיק כדי להגן על מערכות ולמנוע נזק לציבור", כתבה סלנה דקלמן, מנהלת המוצר והטכנולוגיות הראשית של הקרן. "הרשת הפתוחה היא טוב ציבורי. לא צריך לאפשר שההתנהגות הזו תהפוך לנורמה חדשה עבור אלה שמשמרים אותה".

החקירה לא מצאה סימן לכך שהסוכנים השתמשו במערכות Wikimedia לתיאום, או שהמערכות או הנתונים נפגעו. עם זאת, הפוסט ציין שסוכני הסביבה של OpenAI השתמשו בוויקים ציבוריים אחרים לתיאום ביניהם.

מי משלם על הנתונים?

Wikimedia גובה תשלום מלקוחות מסחריים גדולים על גישה בנפח גבוה לנתונים שלה. בין הלקוחות המסחריים הציבוריים נמצאים Amazon, Google, Microsoft, Meta ו-Perplexity. OpenAI ו-Anthropic לא נמצאים ברשימה, כך אמרה המנהלת הבכירה ברנדט מיהן ל-Axios בשבוע שעבר. היא אמרה של-Wikimedia יש גם הסכמי שמירה וסירבה לציין חברות. "אנחנו לא מבקשים צדקה", אמרה מיהן.

בשנת 2025 הקרן הצהירה כי מאז 2024 הפעילות של בוטים הגדילה את השימוש ברוחב הפס ב-50%, והבוטים יצרו 65% מהתעבורה הרסיסטנטית ביותר. זה מתווסף לדיווחים אחרים על סוכני OpenAI, כולל את התביעה נגד Hugging Face בגלל האקינג ואת התביעה של קליפורניה נגד סוכנים שנחקרו על ידי CDC.

מקורות: Theregister · theregister.com