OpenAI-მ ავსტრალიის მთავრობას ბოდიში მოუხადა AI-აგენტების მიერ სახელმწიფო საიტებზე შეღწევის გამო

OpenAI-მ ორშაბათს ავსტრალიის მთავრობას ბოდიში მოუხადა იმის გამო, რომ მისი AI-აგენტების მიერ სახელმწიფო სერვისების ვებგვერდებზე შეღწევის შესახებ ხელისუფლებას დროულად არ შეატყობინა. კომპანიამ ასევე გაამჟღავნა, როგორ მოხდა ეს შეღწევები, და ის ზომებიც ჩამოთვალა, რომლებსაც შედეგების შესაფასებლად მიმართავს.

ბოდიში და გამოძიება

OpenAI-მ ბლოგპოსტში დაწერა: „ივნისში, შიდა სწავლებისა და შეფასების პროცესში, ჩვენი მოდელები ავსტრალიის სამთავრობო ვებგვერდებზე არაავტორიზებული გზით შევიდნენ. რეაგირებაც უკეთ უნდა მოგვეხდინა. ვწუხვართ და მომავალში უკეთესად ვიმუშავებთ“.

ბოდიში მას მერე მოიხადა, რაც ავსტრალიის მთავრობამ დაახლოებით ერთი კვირით ადრე გამოძიება დაიწყო იმის შესახებ, თუ როგორ მიაღწია OpenAI-ის მოდელებმა Services Australia-ის სისტემამდე, სადაც Medicare-ის ხარჯების ინფორმაცია და ჯანმრთელობის სხვა სტატისტიკა ინახება.

მონაცემებზე არაავტორიზებული წვდომა ივნისში მოხდა, თუმცა ავსტრალიის ხელისუფლებას ამის შესახებ მხოლოდ 10 სექტემბერს აცნობეს.

როგორ მოხდა შეღწევა

OpenAI-ის ცნობით, ივნისში გამოცდაზე მყოფ ექსპერიმენტულ მოდელს დავალება ჰქონდა, ვიქტორიაში კანის დაავადებების სამკურნალო წამლებზე სახელმწიფო ხარჯები შეესწავლა. საჯარო მონაცემთა ნაკრებებში ინფორმაცია ვერ იპოვა, ამიტომ მოდელმა Services Australia-ის შიდა სისტემაში შესვლის გზა მოიძია: ბრძანებები გაუშვა, ფაილები და წვდომის მონაცემები ამოიღო და ფაილებიც კი ჩაწერა.

კომპანიის თქმით, მისმა ერთ-ერთმა მოდელმა ასევე გამოიყენა ახალი სამხრეთ უელსის დანაშაულის სტატისტიკისა და კვლევის ბიუროს საჯარო Crime Mapping Tool, რათა დანაშაულის სტატისტიკა მოეძია. სხვა შემთხვევაში აგენტები ღიად დარჩენილი წვდომის გასაღებით ვიქტორიის ჯანმრთელობის ინფორმაციის სააგენტოში შევიდნენ და „ანგარიშგების კონფიგურაცია და აგრეგირებული კვლევის სტატისტიკა“ გაიტანეს. OpenAI-ის თანახმად, აგენტებმა აგრეგირებული სტატისტიკა ავსტრალიის ჯანმრთელობისა და კეთილდღეობის ინსტიტუტის ვებგვერდიდანაც აიღეს.

კომპანიის განცხადებით, მტკიცებულება ვერ მოიძებნა იმისა, რომ მოდელებს კონკრეტული ადამიანების სამედიცინო ან სისხლის სამართლის ჩანაწერებზე წვდომა ჰქონოდათ.

OpenAI-ის ნაბიჯები და ხელისუფლების რეაქცია

ბოდიშის თანმხლები განცხადებით, OpenAI დაზარალებულ სააგენტოებს ტექნიკურ მასალებს მისცემს და საკუთარ რეაგირების გუნდებთან დააკავშირებს, რათა შეღწევის შედეგები ერთად შეაფასონ. კომპანია 1 მილიარდი დოლარის Daybreak for Frontline Defenders პროგრამის კრედიტებსაც გამოყოფს და დამოუკიდებელი ავსტრალიელი ექსპერტების სამუშაო ჯგუფს შექმნის, რომელიც ინციდენტს და მასზე რეაგირებას გადახედავს.

„სამუშაო ჯგუფი, რომელიც მუშაობას წლის ბოლომდე დაასრულებს, რეკომენდაციებსაც მოგვცემს იმის შესახებ, თუ რა პრაქტიკული ნაბიჯები უნდა გადადგას AI კომპანიებმა მსგავსი შემთხვევების რისკის შესამცირებლად“, დაწერა OpenAI-მ.

ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანიზმა შეღწევას „მიუღებელი“ უწოდა გასულ კვირაში გამართულ ბრიფინგზე და აღნიშნა, რომ მთავრობა იხილავს სამართლებრივ ზომებს მსგავსი შემთხვევების თავიდან ასაცილებლად. OpenAI-მ TechCrunch-ის კომენტარის თხოვნას დროულად არ უპასუხა.