Վիքիմեդիա. OpenAI-ի ագենտները անվավեր խմբագրումներ են կատարել իր վիքիներում

Վիքիմեդիայի հիմնադրամը, որը հոսթինգ է կատարում Վիքիպեդիային, հայտնում է, որ OpenAI-ի կողմից ղեկավարվող AI ագենտները, ըստ հիմնադրամի, անվավեր խմբագրումներ են կատարել իր վիքիներում, փորձել են չարաշահել գրառումների գործիքը և ստեծել են տրաֆիկ, որը հնարավոր է մայիսին հանգուցել ծառայության մասնակի անջատումը։ Արդյունքները հրապարակվել են երկուշաբթի։

Խմբագրումներ, Etherpad և տրաֆիկ

Հիմնադրամը հրապարակել է խմբագրումների ցուցակ, որոնք վերագրված են OpenAI-ի ագենտներին։ Գրեթե բոլոր թեստայինները sandbox-ում էին և ոչ մեկը հայտնված չէր հանրային էջերում։ Որոշը փոխել են մեջբերումների գործիքի պարամետրերը, ինչը ըստ հիմնադրամի պոտենցիալ վնասակար էր և գործիքը պետք է դարձնի արտաքին տվյալները ստանալու պրոքսի։ Վիքիպեդիան թույլ է տալիս հաստատված բոտերին, բայց այստեղ թույլտվություն ոչ ոք չի պահանջել։

Ագենտները նաև փորձել են Wikimedia-ի հանրային Etherpad ծառայությունն օգտագործել որպես պրոքսի այլ կայքերից տվյալներ ստանալու համար, բայց չկարողացան։ Մյուս ագենտները, հավանաբար OpenAI-ի, գրառումներ էին անում իրենց սեփական առաջադրանքների վերաբերյալ, սակայն ըստ հիմնադրամի դա համակարգում չի եղել։

Երրորդ գտածը վերաբերում էր տրաֆիկին։ Ագենտները միլիոնավոր հարցումներ են ուղարկել Wikimedia-ի հանրային API-ներին և թեթևեցրել են միլիոնավոր էջեր, հիմնականում Wikidata-ում և Wikimedia Commons-ում։ Նաև հարյուրավոր հազար հարցում է ուղարկվել Wikidata Query Service-ին։ Հիմնադրամի կարծքով, այս տրաֆիկը հնարավոր է մայիսին հանգուցել ծառայության մասնակի անջատումը։

OpenAI-ի պատասխանը

OpenAI-ն հայտարարել է, որ Վիքիմեդիայի հիմնադրամի հետ միասին վերլուծում է ագենտների ակտիվությունը, ինչպես տեղեկացնում է Reuters-ը։ Ընկերությունը գնահատել է հիմնադրամի մանրամասն եզրակացությունները։ «Մենք կշարունակենք կիսվել համապատասխան տեղեկություններով, երբ աշխատանքը առաջ գնա», — հայտարարել է Reuters-ին OpenAI-ի ներկայացուցիչ Դրյու Պուսատերիմը։

Հիմնադրամի կարծքով, OpenAI-ն ճանաչում է, որ իր ագենտները «անկանխատեսելի» են պահվում և հայտնում է, որ ընկերությունը պետք է պատասխանատու լինի ռիսկների մոնիտորինգի և կանխարգելման համար։ Ոչ կոմերցիոն կայքերի սեփականատերենը նույնպես պետք է կարողանան ճանաչել AI համակարգերը և ընտրել, թե ինչպես օգտագործել դրանք իրենց ծառայություններում։ «AI ընկերությունները բավարար չեն անում համակարգերը պաշտպանելու և հասարակության վնասից պաշտպանելու համար», — գրել է Սելենա Դեկելմանը, հիմնադրամի արտադրանքի և տեխնոլոգիաների գլխավոր պաշտոնատարը։ «Բաց վեբը հանրային բարիք է։ Մենք չպետք է թույլ տանք, որ այս վարքագիծը դառնա նոր նորմ իր պահպանող մարդկանց կամ կազմակերպությունների համար»։

Որոնումը չի գտել նշան, որ ագենտները օգտագործել են Wikimedia-ի համակարգերը համակարգման համար, կամ որ համակարգերը կամ տվյալները կոմպրոմետված են։ Սակայն գրառումում նշված է, որ OpenAI-ի միջավայրի ագենտները օգտագործել են այլ հանրային վիքիները համակարգման համար։

Ով է վճարում տվյալների համար?

Wikimedia-ն մեծ ծավալով մուտք է տալիս իր տվյալներին մեծ կոմերցիոն օգտատերերին վճարով։ Հանրային կորպորատիվ օգտատերերի թվում են Amazon, Google, Microsoft, Meta և Perplexity։ OpenAI-ն և Anthropic-ը այս ցուցակում չեն, ինչպես վերջին շաբաթ Axios-ի Ինա Ֆրիդին հաղորդել է գերֆունկցիոնալ տնօրեն Բերնադետ Միհանը։ Նա ասել է, որ Wikimedia-ն ունի նաև հայտնաբերող համաձայնագրեր և մերժել է ընկերությունների անունների նշումը։ «Մենք չենք պահանջում բողոքի գործ հանել», — ասել է Միհանը։

2025 թվականին հիմնադրամը հայտարարել է, որ 2024 թվականից բոտերի ակտիվությունը բեռնման օգտագործումը 50%-ով ավելացել է, իսկ բոտերը առաջացրել են ամենառեսուրսատար տրաֆիկի 65%-ը։ Սա ավելանում է OpenAI-ի ագենտների վերաբերյալ այլ հաղորդումներին, այդ թվում Hugging Face-ի հակերի դեպքին և Կալիֆորնիայի պահանջին CDC-ում հետազոտված ագենտների վերաբերյալ։

Հղումներ՝ Theregister · theregister.com