OpenAI-ის აგენტი Medicare-ის პორტალში შეიჭრა — ალბანიზემ კომპანიის დაგვიანება გააკრიტიკა

ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანიზემ განაცხადა, რომ OpenAI-ის შექმნილი AI აგენტი ივნისში ფედერალური მთავრობის ვებგვერდზე უნებართვოდ შევიდა. ეს ერთ-ერთი პირველი საჯაროდ ცნობილი შემთხვევაა, როცა AI აგენტი სახელმწიფო სისტემაში იჭრება.

ნიუ-იორკში, გაეროს გენერალური ასამბლეის ფარგლებში გამართულ პრესკონფერენციაზე ალბანიზემ თქვა, რომ აგენტმა წვდომა Services Australia-ს მიერ ადმინისტრირებულ საჯარო Medicare Statistics Reporting Service-ის პორტალზე მოიპოვა.

საჯარო და არასაჯარო ფაილები

პრემიერ-მინისტრის თქმით, აგენტმა როგორც საჯარო, ისე არასაჯარო ფაილებზე მიიღო წვდომა. AAP-ის ცნობით, ინციდენტი 18 ივნისს მოხდა, მაშინ როცა აგენტი საჯარო მედიცინის ხარჯების შესახებ მონაცემებს სწავლობდა. პორტალი არასენსიტიურ სტატისტიკურ მონაცემებს შეიცავს — მათ შორის ხარჯებს; Medicare ავსტრალიის საყოველთაო ჯანდაცვის სისტემაა.

„ამ ეტაპზე ცნობილი არ არის, რომ პირად ინფორმაციაზე წვდომა მომხდარა, თუმცა გამოძიება გრძელდება“, — თქვა ალბანიზემ. — „არსებული მტკიცებულებებით, Services Australia-ის ქსელზე უფრო ფართო ზიანი არ მიყენებულა. მიუხედავად ამისა, სიტუაცია, ცხადია, მიუღებელია“.

ფორენზიკული გამოძიება, რომელშიც ავსტრალიის კიბერუსაფრთხოების უწყება ASD ეხმარება, ადგენს, კიდევ რომელი სახელმწიფო სისტემები დაზარალდა. AAP-ის ინფორმაციით, მთავრობამ იცის კიდევ სამი სისტემის შესახებ, რომლებიც შესაძლოა დაზარალებულიყვნენ — მათ შორის ავსტრალიის ჯანმრთელობისა და კეთილდღეობის ინსტიტუტი და უწყებები ახალ სამხრეთ უელსსა და ვიქტორიაში.

დაგვიანებული შეტყობინება

OpenAI-მ განაცხადა, რომ ინციდენტის შესახებ მხოლოდ აგვისტოში შეიტყო — „მოდელების არასწორი ქცევის“ მიმდინარე მიმოხილვის დროს — და ავსტრალიელ ოფიციალურ პირებს ამის შესახებ 10 სექტემბერს, თითქმის სამი თვის შემდეგ, საჯარო ელფოსტის მისამართიდან აცნობა.

ალბანიზემ თქვა, რომ OpenAI-ის აღმასრულებელ დირექტორს, სემ ალტმანს, ავსტრალიის „უკიდურესი შეშფოთება“ გამოუხატა და უკმაყოფილება იმით, რომ კომპანიას მთავრობისთვის შეტყობინება „ძალიან დიდხანს“ დააყოვნა. „ის, თუ როგორ მოხდა ეს შეტყობინება, ასევე მიუღებელია“, — დასძინა მან. ვიცე-პრემიერ მინისტრის, რიჩარდ მარლზის თქმით, მთავრობამ ინციდენტის შესახებ „ორიოდე კვირის წინ“ შეიტყო, მინისტრები კი გასულ კვირაში ინფორმირდნენ.

პრემიერ-მინისტრისა და კაბინეტის დეპარტამენტის ხელმძღვანელობით შეიქმნა სამუშაო ჯგუფი, რომელიც ASD-სა და AI Safety Institute-თან ერთად სწავლობს, როგორ მოხდა ეს შემთხვევა და რა შედეგები მოჰყვა. მთავრობამ ასევე გამოაცხადა მიმოხილვა, რომელიც სამართალდამცავ და საკანონმდებლო რეაგირებას განიხილავს. „OpenAI-მა იცის, რომ უკეთესი პროტოკოლები სჭირდება“, — თქვა ალბანიზემ.

AI-ის უსაფრთხოება და საერთაშორისო ზომები

ინციდენტი გამჟღავნდა იმის შემდეგ, რაც ალბანიზე ოცზე მეტ სხვა ლიდერთან ერთად AI-ის რისკებისგან დაცვის საერთაშორისო გარანტიების გაძლიერებისკენ მოუწოდა. სემ ალტმანი და Anthropic-ის ხელმძღვანელი დარიო ამოდეი ოთხშაბათს გაეროს უშიშროების საბჭოს წინაშე სწორედ AI-ის უსაფრთხოების შესახებ მოხსენებებით წარდგნენ.