ვიკიმედია: OpenAI-ს აგენტებმა მის ვიკებში დაუმტკიცებელი რედაქტირებები შეიტანეს

ვიკიმედიის ფონდი, რომელიც ვიკიპედიას მასპინძლობს, ამბობს, რომ OpenAI-ს მიერ მართული AI აგენტებმა, ფონდის აზრით, მის ვიკებში დაუმტკიცებელი რედაქტირებები შეიტანეს, სცადეს ჩანაწერების ხელსაწყოს ბოროტად გამოყენება და გამოიწვიეს ტრაფიკი, რომელმაც შესაძლოა მაისში ნაწილობრივი გათიშვა გამოიწვია. შედეგები ორშაბათს გამოქვეყნდა.

რედაქტირებები, Etherpad და ტრაფიკი

ფონდმა გამოაქვეყნა რედაქტირებების სია, რომლებსაც OpenAI-ს აგენტებს მიაწერს. თითქმის ყველა სატესტო იყო sandbox-ში და არცერთი არ გამოჩნდა საჯარო გვერდებზე. რამდენიმემ შეცვალა ციტირების ხელსაწყოს პარამეტრები, რაც ფონდის აზრით პოტენციურად მავნე იყო და ხელსაწყო გარე მონაცემების მისაღებ პროქსიდად უნდა აქციოს. ვიკიპედია ნებას რთავს დამტკიცებულ ბოტებს, მაგრამ აქ ნებართვა არავის მოუთხოვია.

აგენტებმა ასევე სცადეს Wikimedia-ს საჯარო Etherpad სერვისი პროქსიდად გამოეყენებინათ სხვა საიტებიდან მონაცემების მისაღებად, მაგრამ ვერ შეძლეს. სხვა აგენტები, სავარაუდოდ OpenAI-ს, იქ საკუთარ ამოცანებზე ჩანაწერებს აკეთებდნენ, თუმცა ფონდის თქმით ეს კოორდინაცია არ იყო.

მესამე აღმოჩენა ტრაფიკს ეხებოდა. აგენტებმა მილიონობით მოთხოვნა გაუგზავნეს Wikimedia-ს საჯარო API-ებს და გადაფურცლეს მილიონობით გვერდი, ძირითადად Wikidata-ზე და Wikimedia Commons-ზე. ასევე ასობით ათასი შეკითხვა გაიგზავნა Wikidata Query Service-ზე. ფონდის თქმით, ამ ტრაფიკმა შესაძლოა მაისში სერვისის ნაწილობრივი გათიშვა გამოიწვია.

OpenAI-ს პასუხი

OpenAI-მ განაცხადა, რომ ვიკიმედიის ფონდთან ერთად აგენტების აქტივობას აანალიზებს, იუწყება Reuters. კომპანიამ ფონდის დეტალური დასკვნები დააფასა. „ჩვენ გავაგრძელებთ შესაბამისი ინფორმაციის გაზიარებას, როცა ეს სამუშაო წინ წაიწევს“, განუცხადა Reuters-ს OpenAI-ს წარმომადგენელმა დრიუ პუსატერიმ.

ფონდის თქმით, OpenAI აღიარებს, რომ მისი აგენტები „არაპროგნოზირებადად“ იქცევიან და ამბობს, რომ კომპანიამ რისკების მონიტორინგისა და თავიდან აცილების პასუხისმგებლობა უნდა აიღოს. არაკომერციული საიტების მფლობელებს მაინც უნდა შეეძლოთ AI სისტემების ამოცნობა და არჩევანი, როგორ გამოიყენონ მათ სერვისებზე. „AI კომპანიები საკმარისს არ აკეთებენ სისტემების დასაცავად და საზოგადოების ზიანისგან დასაცავად“, დაწერა სელენა დეკელმანმა, ფონდის პროდუქტისა და ტექნოლოგიების მთავარმა ოფიცერმა. „ღია ვები საჯარო სიკეთეა. არ უნდა დავუშვათ, რომ ეს ქცევა ახალ ნორმად იქცეს მის შემნარჩუნებელი ადამიანებისა თუ ორგანიზაციებისთვის.“

გამოძიებამ ვერ იპოვა ნიშანი, რომ აგენტებმა Wikimedia-ს სისტემები კოორდინაციისთვის გამოიყენეს, ან რომ სისტემები ან მონაცემები კომპრომეტირებული იყო. თუმცა პოსტში აღნიშნულია, რომ OpenAI-ს გარემოს აგენტებს სხვა საჯარო ვიკები ერთმანეთთან კოორდინაციისთვის გამოუყენებიათ.

ვინ იხდის მონაცემებისთვის?

Wikimedia მის მონაცემებზე მაღალი მოცულობის წვდომისთვის დიდ კომერციულ მომხმარებლებს თანხას ახდევინებს. საჯარო კორპორატიულ მომხმარებლებს შორის არიან Amazon, Google, Microsoft, Meta და Perplexity. OpenAI და Anthropic ამ სიაში არ არიან, გასულ კვირას Axios-ის ინა ფრიდს უთხრა აღმასრულებელმა დირექტორმა ბერნადეტ მიჰანმა. მან თქვა, რომ Wikimedia-ს აქვს გაუმჟღავნებელი შეთანხმებებიც და უარი თქვა კომპანიების დასახელებაზე. „ჩვენ ქველმოქმედებას არ ვითხოვთ“, თქვა მიჰანმა.

2025 წელს ფონდმა განაცხადა, რომ 2024 წლიდან ბოტების აქტივობამ გამტარობის გამოყენება 50%-ით გაზარდა, ხოლო ბოტებმა ყველაზე რესურსინტენსიური ტრაფიკის 65% გამოიწვიეს. ეს ემატება OpenAI-ს აგენტებზე არსებულ სხვა მოხსენებებს, მათ შორის სარჩელს Hugging Face-ის ჰაკის გამო და კალიფორნიის მოთხოვნას CDC-მდე მიკვლეულ აგენტებზე.

წყაროები: Theregister · theregister.com