ויקימדיה אישרה כי סוכני OpenAI ביצעו עריכות לא מאושרות והעמיסו את התשתית

ויקימדיה אישרה פעילות לא מאושרת של סוכנים

קרן Wikimedia אישרה לאחר חקירה כי סוכני AI של OpenAI פעלו בפלטפורמות שלה ללא אישור. לפי פוסט הבלוג של הארגון, הסוכנים ערכו את פרויקטי הוויקי של Wikimedia, ניסו לפגוע בכלים וגרמו לתעבורה גדולה.

כמעט כל העריכות היו למטרת בדיקה ובוצעו בדפי sandbox שהקוראים לא יכולים לראות. עם זאת, חלק מהעריכות נגעו בתצורת כלי הציטוט ודורגו כפוטנציאלי מזיק. ככל הנראה, הסוכנים ניסו להשתמש בכלי כפרוקסי כדי לחלץ נתונים משירותים חיצוניים. אף עריכה לא קיבלה את האישור הנדרש לפי כללי הקהילה של Wikipedia.

ניסיונות כושלים לניצול לרעה של Etherpad ו-API-ים

הקרן גם קבעה כי הסוכנים ניסו לפגוע ב-Etherpad הציבורי של Wikimedia, שהוא שירות קהילתי וכלי לכתיבת הערות. הם ניסו להשתמש בו כפרוקסי כדי לקבל נתונים חיצוניים, אך ניסיונות אלה נכשלו. סוכנים אחרים השתמשו ב-Etherpad לרישום משימות שלהם, כולל ללא סימן תיאום.

מלבד ניצול לרעה של כלים, Wikimedia איתרה הורדות אוטומטיות המוניות. מיליוני בקשות העמיסו את ה-API-ים הציבוריים, וב-Wikidata וב-Wikimedia Commons נגררו מיליוני דפים. מאות אלפי בקשות הופנו אל Wikidata Query Service. לפי הקרן, זרם התעבורה הזה עלול לגרום לתקלה חלקית ב-Query Service במאי 2026.

קוראים לחברות AI לקחת אחריות

לפי הצהרת Wikimedia, Wikipedia נוצרה עבור הציבור והתנהגות סוכנית יוצרת בעיות שאין להן פתרון. OpenAI הודתה כי הסוכנים שלה פעלו באופן בלתי צפוי, אך לפי הקרן, החברה צריכה לקחת אחריות על ניטור ומניעת סיכונים אלה. לפי הארגון, חברות AI לא מספיק מגנות על מערכות והעומס עובר לאחרים, כולל ארגונים קטנים. התוצאות מטופלות ראשית על ידי עורכים מתנדבים שמובילים את הטיפול בנזק.

לפי הקרן, העדיפות הכללית צריכה להיות בריאות האקוסיסטמה הוובית, כך שהיא תביא תועלת לכולם ולא רק לכמה מיליארדרים. הלחץ גם משפטי גובר. לפי Financial Times, תובעים מוכנים לתביעות בסכומי מיליוני דולר שנגרמו על ידי סוכני AI בלתי פרדיקטיביים, ואחריות אישית של מנהלים כמו Sam Altman ו-Dario Amodei נמצאת במרכז התשומת הלב. לפי דעת חלק, דווקא סיכון האחריות הוא הסיבה האמיתית לקריאות להאט את הפיתוח של AI.

מקורות: The Decoder