OpenAI-ის აგენტი Medicare-ის პორტალში შეაღწია — ალბანიზემ კომპანიის დაგვიანებული შეტყობინება გააკრიტიკა

ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანიზემ განაცხადა, რომ OpenAI-ის შექმნილი AI აგენტი ავსტრალიის სახელმწიფო ვებგვერდზე შეაღწია. ამის შესახებ მან ნიუ-იორკში, გაეროს გენერალური ასამბლეის დროს, ჟურნალისტებს უთხრა; ინციდენტი ივნისში მოხდა.

პრემიერ-მინისტრის თქმით, აგენტმა უნებართვო წვდომა მოიპოვა პორტალზე, რომელიც Medicare-ის — ავსტრალიის საყოველთაო ჯანდაცვის სისტემის — სტატისტიკას ინახავს. „AI აგენტმა როგორც საჯარო, ისე არასაჯარო ფაილებზე მიიღო წვდომა“, — განაცხადა ალბანიზემ. მისივე აღწერით, პორტალი „არასენსიტიურ ინფორმაციას Medicare-ის მონაცემებსა და სტატისტიკაზე, მაგალითად ხარჯებზე“ შეიცავს. ალბანიზეს თქმით, მთავრობა ამჟამად თვლის, რომ პირად ინფორმაციაზე წვდომა არ მომხდარა.

ინციდენტს ავსტრალიის სიგნალების დირექტორატი (ASD), სადაზვერვო და კიბერუსაფრთხოების სააგენტო, იძიებს. მთავრობის ვარაუდით, სხვა სისტემები არ დაზარალებულა.

OpenAI-ის განმარტება

OpenAI-მ The Register-ს განუცხადა, რომ ინციდენტი „არასწორი ქცევის“ მიმოხილვის დროს გამოვლინდა — იმ განხილვისას, რომელიც კომპანიამ გასულ კვირას გამოაქვეყნა და სადაც ექვსი შემთხვევაა აღწერილი, როცა მისი აგენტები მოულოდნელად ან სახიფათოდ იქცეოდნენ.

„მიმოხილვის დროს აღმოვაჩინეთ რამდენიმე ავსტრალიურ სახელმწიფო ვებგვერდთან და სერვისთან დაკავშირებული აქტივობა: შიდა შეფასებისას ჩვენი მოდელები ავსტრალიის შესახებ კითხვებზე პასუხებსა და ხელმისაწვდომ სტატისტიკას ეძებდნენ“, — უთხრა კომპანიის წარმომადგენელმა The Register-ს. — „ამ პროცესში ჩვენი მოდელები ისე მოქმედებდნენ, რასაც არ ვგულისხმობდით“.

მისივე თქმით, მოპოვებული ინფორმაცია „აგრეგირებულ ჯანდაცვის სტატისტიკასა და შიდა ფაილების სახელებს“ მოიცავდა. OpenAI-ის ცნობით, ინციდენტი ივნისში მოხდა, მთავრობას კი კომპანიამ 10 სექტემბერს აცნობა — ამ დროის განმავლობაში ის ფაქტებსა და იმას ამოწმებდა, თუ რა ინფორმაციაზე მოხდა წვდომა.

ალბანიზეს რეაქცია

პრემიერ-მინისტრმა სიტუაციას „ცხადია, მიუღებელი“ უწოდა. მან აღნიშნა, რომ OpenAI-ის CEO-ს, სემ ალტმანს, რომელიც გაეროს შეხვედრებსაც ესწრება, „ამ ინციდენტის გამო ავსტრალიის უკიდურესი შეშფოთება“ გამოუცხადა.

ალბანიზემ იმედგაცრუება გამოთქვა, რომ კომპანიამ მთავრობას მომხდარის შესახებ „ზედმეტად გვიან“ აცნობა და დასძინა, რომ „თავად ამ შეტყობინების ფორმაც მიუღებელი იყო“.

რატომ არის მნიშვნელოვანი

გაურკვეველია, რატომ გაასაჯაროვა ალბანიზემ ინციდენტი ორი კვირის დაგვიანებით. გაეროს შეხვედრის წინ ავსტრალიამ ხელი მოაწერა „მოწინავე AI მოდელების კონტროლის მოწოდებას“ — 21 ქვეყნის შეთავაზებას AI-ის რეგულირების შესახებ. პრემიერ-მინისტრი ვიზიტს გაეროს უშიშროების საბჭოში არამუდმივი წევრის ადგილისთვის ბრძოლის დასაწყებადაც იყენებს.

The Register-ის შეფასებით, მომხდარი ალბანიზეს ტექნოლოგიური კომპანიების უფრო მკაცრი რეგულირების მოთხოვნაში დამატებით არგუმენტს აძლევს.