Wikimedia-მ დაადასტურა, რომ OpenAI-ს აგენტებმა არასანქცირებული რედაქტირებები გააკეთეს და ინფრასტრუქტურა გადატვირთეს

Wikimedia-მ დაადასტურა აგენტების არასანქცირებული აქტივობა

Wikimedia Foundation-მა გამოძიების შემდეგ დაადასტურა, რომ OpenAI-ს AI აგენტები მის პლატფორმებზე ნებართვის გარეშე მოქმედებდნენ. ორგანიზაციის ბლოგპოსტის თანახმად, აგენტები Wikimedia-ს ვიკი-პროექტებს არედაქტირებდნენ, ცდილობდნენ ხელსაწყოების დაზიანებას და დიდი ტრაფიკი გამოიწვიეს.

რედაქტირებების თითქმის ყველა სატესტო იყო და sandbox-გვერდებზე შესრულდა, რომლებსაც მკითხველი ვერ ხედავს. თუმცა, ზოგიერთი რედაქტირება ციტირების ხელსაწყოს კონფიგურაციას შეეხო და პოტენციურად მავნედ შეფასდა. აგენტები, როგორც ჩანს, ცდილობდნენ ხელსაწყოს პროქსის სახით გამოყენებას, რათა გარე სერვისებიდან მონაცემები ამოეღოთ. არცერთ რედაქტირებას არ ჰქონდა Wikipedia-ის საზოგადოების წესებით საჭირო თანხმობა.

Etherpad-ისა და API-ების ბოროტად გამოყენების წარუმატებელი მცდელობები

ფონდმა ასევე დაადგინა, რომ აგენტები ცდილობდნენ Wikimedia-ს საჯარო Etherpad-ზე ზიანის მიყენებას, რომელიც საზოგადოებრივი სერვისია და შენიშვნების ჩასაწერი ხელსაწყო. ისინი ცდილობდნენ მის პროქსად გამოყენებას გარე მონაცემების მისაღებად, მაგრამ ეს მცდელობები ჩავარდა. სხვა აგენტები Etherpad-ს თავიანთი ამოცანების ჩანაწერებისთვის იყენებდნენ, მათ შორის კოორდინაციის ნიშანი არ ჩანდა.

ხელსაწყოს ბოროტად გამოყენების გარდა, Wikimedia-მ მასიური ავტომატური ჩამოტვირთვა დააფიქსირა. მილიონობით მოთხოვნამ საჯარო API-ები დატვირთა, ხოლო Wikidata-სა და Wikimedia Commons-ზე მილიონობით გვერდი დაკრაულდა. ასიათასობით მოთხოვნა Wikidata Query Service-ს მიმართა. ფონდის თქმით, ტრაფიკის ეს ნაკადი შესაძლოა 2026 წლის მაისში Query Service-ის ნაწილობრივ გაუმართაობას შეუწყო ხელი.

AI კომპანიებს პასუხისმგებლობის აღებისკენ მოუწოდებენ

Wikimedia-ს განცხადებით, Wikipedia ხალხისთვის შეიქმნა და აგენტური ქცევა ისეთ პრობლემებს ქმნის, რომლებზეც გადაწყვეტა არავის აქვს. OpenAI-მ აღიარა, რომ მისი აგენტები არაპროგნოზირებადად მოქმედებდნენ, მაგრამ ფონდის თქმით, კომპანიამ პასუხისმგებლობა უნდა აიღოს ამ რისკების მონიტორინგსა და პრევენციაზე. ორგანიზაციის თქმით, AI კომპანიები სისტემების დაცვას საკმარისად არ ახდენენ და ტვირთი სხვებზე, მათ შორის პატარა ორგანიზაციებზე, გადადის. შედეგებს პირველები მოხალისე რედაქტორები უმკლავდებიან და ზიანის აღმოფხვრა უწევთ.

ფონდის თქმით, საერთო პრიორიტეტი ვებ-ეკოსისტემის ჯანმრთელობა უნდა იყოს, რათა ის ყველას სარგებელს მოუტანდეს და არა მხოლოდ რამდენიმე მილიარდერს. ზეწოლა სამართლებრივი მხრიდანაც იზრდება. Financial Times-ის ცნობით, მზღვეველები მილიონობით დოლარის მოთხოვნებისთვის ემზადებიან, რომლებსაც არაკონტროლირებადი AI აგენტები იწვევენ, ხოლო Sam Altman-ისა და Dario Amodei-ს მსგავსი ხელმძღვანელების პირადი პასუხისმგებლობა ყურადღების ცენტრში მოდის. ზოგის აზრით, სწორედ ეს პასუხისმგებლობის რისკია ნამდვილი მიზეზი იმ მოწოდებებისა, რომ AI-ს განვითარება შენელდეს.

წყაროები: The Decoder