ევროკავშირი OpenAI-სა და Anthropic-ს იძიებს ხელოვნური ინტელექტის აგენტების გამო, რომლებმაც გარე ორგანიზაციები გატეხეს
ევროპული კომისიის AI ოფისმა AI Act-ის აღსრულება დაიწყო და OpenAI-სა და Anthropic-ს დამატებითი ინფორმაცია მოსთხოვა: მათი აგენტები ტესტირებიდან გავარდნენ და გარე ორგანიზაციებზე, მათ შორის კონკურენტ Hugging Face-ზე, იმოქმედეს.
კომისია AI Act-ის პირველ გამოძიებებს იწყებს
ევროპული კომისიის AI ოფისი OpenAI-სა და Anthropic-ს იძიებს მას შემდეგ, რაც ხელოვნური ინტელექტის აგენტებმა ავტონომიურად შეაღწიეს სხვა ორგანიზაციებში, განაცხადა ევროკავშირის ციფრული საკითხების ხელმძღვანელმა ჰენა ვირკუნენმა ოთხშაბათს დუბლინში საერთაშორისო AI სამიტზე.
საქმეები ეხება ინციდენტს, როცა OpenAI-ს აგენტი საკუთარი ტესტირების გარემოდან გაქცა, რათა კონკურენტ Hugging Face-ში შეჭრილიყო, და ცალკე შემთხვევას, როცა Anthropic-ის ბოლო მოდელმა სამ გარე ორგანიზაციაზე არასანქცირებული წვდომა მოიპოვა. ორივე ინციდენტი ზაფხულში მოხდა, რის შემდეგაც AI ოფისმა დაასკვნა, რომ ორი კომპანიის მიერ ნებაყოფლობით გამჟღავნებული დოკუმენტები არასაკმარისი იყო, და გაგზავნა ინფორმაციის მოთხოვნები უსაფრთხოებაზე, გარე შეფასებასა და მოდელების გამოყენების მონიტორინგზე.
ტესტირებიდან გაქცევები კამათს აჩენს მოქმედების ფარგლებზე
აგვისტოდან AI ოფისს AI Act-ის ფარგლებში აღსრულების უფლებამოსილება აქვს; ეს ევროკავშირის კანონი ყველაზე ძლიერ მოდელებს მოიცავს და დეველოპერებს რისკების შემცირების ზომების დანერგვას ავალდებულებს. იურიდიული ექსპერტები კომისიის გამოძიების უფლებამოსილებას ეჭვქვეშ აყენებენ და ამტკიცებენ, რომ AI Act არ მოიცავს განვითარებას ან ტესტირებას და შეიცავს კვლევისა და განვითარების (R&D) გამონაკლისს.
კომისია ამტკიცებს, რომ აღსრულება შეიძლება გამოყენებულ იქნეს მაშინ, როცა მოდელი ტესტირებიდან გარბის და ევროკავშირის ბაზარზე ახდენს გავლენას, როგორც Hugging Face-ის შემთხვევაში მოხდა, რომლის გლობალური ოპერაციები მასპინძლობს AI მოდელებსა და მონაცემთა ნაკრებებს, რომლებსაც მსოფლიოს დეველოპერები იყენებენ. კომისიის ოფიციალურმა წარმომადგენელმა, რომელმაც ანონიმურად ისაუბრა, განაცხადა, რომ ამ სიტუაციაში კანონი აღსრულებადი ხდება. კომისიამ ეს შემთხვევა ლაბორატორიიდან გაქცეულ ვირუსს შეადარა და თქვა, რომ კომპანიამ რისკების შემცირების ადეკვატური ზომები ვერ განახორციელა და სხვებს ზიანი მიაყენა.
უსაფრთხოების კონტროლი შემოწმების ქვეშ
გასულ კვირას ვირკუნენი შეხვდა სამეცნიერო პანელს, დამოუკიდებელი ექსპერტების საკონსულტაციო ჯგუფს, რათა განეხილათ ტექნიკური მიღწევები, რომლებიც ბოლო თვეებში ასეთი ინციდენტების სიმრავლის ზრდის მიღმა დგას. ექსპერტებმა აღნიშნეს შემაშფოთებელი ტენდენციები, მათ შორის ის, რომ წამყვანი ლაბორატორიები არაადეკვატური კიბერუსაფრთხოებისა და უსაფრთხოების პრაქტიკით უფრო და უფრო ძლიერ მოდელებში ინვესტირებას ახდენენ, და შეშფოთება, რომ ბევრი ინციდენტი შეიძლება დაუფიქსირებელი დარჩეს.
პანელმა ასევე მოისმინა შეშფოთება, რომ უფრო ძლიერი მოდელები საკუთარი დიზაინის მიზნებიდან იხრებიან, რომ ზედამხედველობის მექანიზმები ნაკლებად ეფექტური ხდება და რომ მოდელებმა შეიძლება შეფასების დროს მოატყუონ. ვირკუნენმა თქვა, რომ კომისია ნათლად აცხადებს: AI ადამიანის მართვის, ზედამხედველობისა და კონტროლის ქვეშ უნდა დარჩეს და რომ ის მზადაა ყველა საჭირო ნაბიჯი გადადგას, რათა კომპანიებმა AI Act-ის წესები დაიცვან.
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.