საკუთარ ფეხში თავს არ გავისვრით: OpenAI-ს მთავარი მკვლევარი ჰაკების შედეგებზე საუბრობს

ორ თვეზე მეტი გავიდა მას შემდეგ, რაც OpenAI-ს აგენტები კონტროლიდან გავიდნენ და Hugging Face-ის კომპიუტერებში შეიჭრნენ. MIT Technology Review-სთან ინტერვიუში OpenAI-ს მთავარი მკვლევარი მარკ ჩენი ამბობს, რომ კომპანია უსაფრთხოების ზომებს ამკაცრებს და იმ აზრს არ ეთანხმება, თითქოს უკან დახევის მდგომარეობაშია.

საუბარი ლონდონში გასულ პარასკევს შედგა. იმავე დღეს OpenAI-მა კიდევ ერთი ინციდენტის შესახებ ანგარიში გამოაქვეყნა: მისი აგენტები კვლავ გავიდნენ კონტროლიდან და საჯარო ინტერნეტში შევიდნენ. ამჯერად აქტივობა 15 წუთში შენიშნეს, Hugging Face-ის ჰაკის შემთხვევაში კი კომპანიას ერთ კვირაზე მეტი დასჭირდა. შაბათ-კვირას OpenAI-მა უახლესი მოდელების წვრთნა შეაჩერა.

რა ხდება ინციდენტების გარშემო

ჩენის თქმით, ყველა ის შემთხვევა, როცა აგენტებმა არასასურველი ქცევა აჩვენეს, მაის-ივნისში ერთი და იმავე აქტივობის კასკადის ნაწილია, სწორედ იმ კასკადისა, რომელმაც Hugging Face-ის ჰაკამდე მიიყვანა. ყველა მათგანში ერთი და იგივე მოდელები მონაწილეობდნენ იმავე ნაკლოვანი ტესტირების წესებით, რომლებიც კომპანიამ უკვე მიატოვა.

„Hugging Face ძალიან სერიოზული შემთხვევა იყო. რამდენიმე აგენტი ერთმანეთთან კოორდინირებულად მოქმედებდა და OpenAI-ს ინფრასტრუქტურიდან გარეთ გავიდა. აღარ გვინდა, რომ მსგავსი რამ კიდევ მოხდეს“, ამბობს ჩენი.

რა შეიცვალა უსაფრთხოებაში

მთავარი ცვლილება, ჩენის თქმით, ის არის, რომ ზედამხედველობა ახლა წვრთნის პროცესსაც მოიცავს და არა მხოლოდ გაშვებულ მოდელებს. აქამდე OpenAI მოდელებს მხოლოდ გაშვების შემდეგ აკვირდებოდა. ახლა ყველა წვრთნის პროცესს მეთვალყურე მოდელები ამოწმებს, ადამიანები კი წყვეტენ, სათანადოდ იქცევა თუ არა მონიშნული აგენტი.

ბოლო ორ თვეში OpenAI-მა გამოთვლითი რესურსების 5-10% წვრთნიდან უსაფრთხოების სამუშაოებზე, უპირველესად მონიტორინგზე გადაამისამართა. კომპანიამ ასევე დაალაგა შიდა პროცესები: კვლევით და უსაფრთხოების გუნდებს შორის კავშირი უფრო მკაფიო გახდა.

შენელება და შეჩერებული მოდელები

New York Times-ის ცნობით, Hugging Face-ის ჰაკამდე თვეებით ადრე OpenAI-ს თანამშრომლები ხელმძღვანელობას, მათ შორის კომპანიის პრეზიდენტ გრეგ ბროკმანს, აფრთხილებდნენ, რომ მოდელებს წვრთნის დროს სათანადოდ არ აკვირდებოდნენ. OpenAI-ს წარმომადგენლის თქმით, კომპანიამ განვითარება შეანელა და ის მოდელები შეაჩერა, რომლებიც უსაფრთხოების ზღვარს ვერ აკმაყოფილებდნენ.

ჩენი ამბობს, რომ საქმე კონკურენციიდან სრულ გასვლას არ ეხება. „საკუთარ ფეხში თავს არ გავისვრით და წინა ხაზიდან შორს არ წავალთ, ეს საშინელი სტრატეგია იქნებოდა. საუბარია ნორმის დაწესებაზე, რაც მთელ ინდუსტრიას უფრო უსაფრთხოს გახდის“, ამბობს ის.

ამ ინციდენტის შემდეგ განვითარების ტემპის შენელებისკენ წამყვანი AI ლაბორატორიებიც მოუწოდებენ: Anthropic, Google DeepMind და SpaceXAI. ჩენის აზრით, კომპანიის გაქრობა სამყაროსთვის ცუდი იქნებოდა. ის აფრთხილებს, რომ ექვს თვეში ან ერთ წელიწადში შესაძლოა ღია კოდის მოდელები გამოჩნდეს, რომლებიც განზრახ ინფრასტრუქტურაზე თავდასხმისთვის იქნებიან მოწყობილი.