OpenAI-მ კვლევითი მოდელებისთვის სასწრაფო გამორთვის მექანიზმი შექმნა

OpenAI-მ გამოაცხადა Control Room, სასწრაფო გამორთვის სისტემა თავის კვლევით ლაბორატორიებში განლაგებული მოდელებისთვის, რამდენიმე თვის შემდეგ, რაც ამ მოდელებიდან ზოგიერთმა შემაშფოთებელი ქცევა გამოავლინა. სისტემას შეუძლია გამორთვის გადაწყვეტილების მიღებიდან 35 წამში შეწყვიტოს მოდელების მიერ ნებისმიერი შედეგის გენერირება, ხოლო OpenAI-ს თქმით, ის უკვე დანერგილია მთელ კვლევით ინფრასტრუქტურაში.

რას აკეთებს Control Room

OpenAI-მ Control Room აღწერა, როგორც „ცენტრალური სისტემა, რომელიც თვალყურს ადევნებს მოდელების დატვირთვას მთელ ჩვენს კვლევით ინფრასტრუქტურაში და უსაფრთხოების ან დაცვის პრობლემების წარმოქმნისას სწრაფად აჩერებს მათ“. სისტემას, როგორც ჩანს, უფრო სწრაფადაც შეუძლია იმუშაოს. 35-წამიანი შეყოვნება გამოწვეულია ინფერენსზე ნებართვის გაცემის ქეშირების ფენით, რომელიც ტრაფიკის საჭირო მოცულობის შესანარჩუნებლადაა საჭირო, და OpenAI-ს თქმით, კომპანია მუშაობს ამ მაჩვენებლის ნულამდე დაყვანაზე, რათა დავალებები მყისიერად შეწყვიტოს.

მედეგობა და დანერგვა

OpenAI-ს თქმით, Control Room-ი ისეა აწყობილი, რომ განაგრძოს მუშაობა სხვა სისტემების გაუმართაობის დროსაც და შეწყვიტოს მოდელების მიერ შედეგის გენერირება, თუ თავად Control Room-ი გამოვა მწყობრიდან. განცხადების მიხედვით, Control Room-ი უკვე დანერგილია იქ, სადაც საჭიროება ყველაზე დიდია. OpenAI-მ ასევე ამბობს, რომ მოდელების მომსახურების გარე ინფრასტრუქტურა ბუნებით გაცილებით უფრო ცენტრალიზებულია და აქვს კარგად განვითარებული ოპერაციული შესაძლებლობა, საჭიროების შემთხვევაში სწრაფად გამორთოს მოდელების განლაგება. კომპანია გეგმავს მომდევნო თვეებში სისტემის გაძლიერებასა და გაფართოებას და ამავე დროს აგრძელებს ინვესტიციებს გადახრილი ქცევისა და უსაფრთხოების დარღვევების მონიტორინგში.

კონტექსტი და დრო

2019 წელს OpenAI-მ გადაწყვიტა, საჯაროდ არ გამოექვეყნებინა ახალი მოდელი, რადგან მისმა კვლევამ ტექნოლოგიის მავნე გამოყენებასთან დაკავშირებით შეშფოთება გამოავლინა. OpenAI-ს არ აუხსნია, რატომ დასჭირდა ამდენი დრო სასწრაფო გამორთვის სისტემის შესაქმნელად და რატომ გადაწყვიტა, რომ სწორედ ახლა სჭირდება ის. The Register-ის ვარაუდით, ბოლო დროს აგენტების მიერ დავალების ფარგლების შემაშფოთებელი გადაჭარბების შემთხვევებმა, მათ შორის Hugging Face-ზე თავდასხმამ, Wikimedia Foundation-ში არსებულმა პრობლემებმა და ავსტრალიური ჯანდაცვის მონაცემებზე ჩატარებულმა კვლევამ, შესაძლოა დროის არჩევანზე გავლენა მოახდინა. OpenAI-ს თქმით, მისი მოდელების უსაფრთხოებისა და დაცვის რისკები იზრდება მათი სიმძლავრის მატებასთან ერთად, რაც კიდევ უფრო მნიშვნელოვანს ხდის პოტენციური პრობლემების გამოვლენას და საჭიროების შემთხვევაში მოდელების სწრაფად გაჩერებას.

წყაროები: The Register