გათავისუფლებული OpenAI-ს უსაფრთხოების მკვლევარები ბრალდებებს უარყოფენ, შემაკავებელ ეფექტზე აფრთხილებენ

ღია წერილი გათავისუფლების საფუძველს სადავოდ ხდის

ჯასმინ ვანგი, ტომეკ კორბაკი და მიკიტა ბალესნი, OpenAI-ს მიერ გასულ კვირას გათავისუფლებული სამი უსაფრთხოების მკვლევარი, ხუთშაბათს ღია წერილი გამოაქვეყნეს. წერილში ისინი უარყოფენ კომპანიის მტკიცებას, თითქოს მათ სენსიტიური ინფორმაცია დადგენილი წესების გვერდის ავლით გაავრცელეს. წერილი, რომელიც OpenAI-ს უსაფრთხოებისა და დაცვის კომიტეტს, უსაფრთხოების საკონსულტაციო ჯგუფს და მისიის მრჩეველთა საბჭოს მიმართავს, აფრთხილებს, რომ ეს გათავისუფლებები შემაკავებელი ეფექტის სიგნალია და კომპანიის კულტურაზე ტალღისებურად აისახება.

მკვლევარების თქმით, მათ გათავისუფლებასთან დაკავშირებულმა შიდა და გარე კომუნიკაციამ ყოფილი კოლეგები დააშინა, რომ ესაუბრათ და ემუშავათ ისე, როგორც OpenAI-ში მუშაობის განუყოფელი ნაწილი იყო გასულ კვირამდე. მათი აზრით, უსაფრთხოების სამუშაო გარე ექსპერტებთან მჭიდრო თანამშრომლობას ეყრდნობა, და თავისუფლება, რომ ეს შიშის გარეშე აკეთო, კარგად განსაზღვრული შიდა პროცედურების მხარდაჭერით, თავისთავად არსებითი უსაფრთხოების მექანიზმია.

კომპანიის პასუხი და უპასუხო კითხვები

OpenAI-მ განაცხადა, რომ სამივე მათგანი სამსახურიდან გაათავისუფლა მას შემდეგ, რაც გამოძიებამ „არასწორი ქცევის ნიმუში“ გამოავლინა, რაც „ჩვენი კვლევითი ინფორმაციის არასწორად მოპყრობის პოლიტიკის აშკარა დარღვევაა“ და სცდება გარე AI შემფასებელ ჯგუფთან ინფორმაციის გაზიარებას. კომპანიამ არ უპასუხა კითხვებს იმაზე, რომელი კონკრეტული პოლიტიკა დაირღვა, როგორი იყო გათავისუფლების გარემოებები და როგორ იცავს ის თანამშრომლებს, რომლებიც უსაფრთხოების საკითხებს აყენებენ და გარე შემფასებლებთან თანამშრომლობენ.

TechCrunch-თან გაზიარებული, კვლევის ხელმძღვანელისთვის მიკუთვნებული შიდა მემორანდუმი აქებდა მკვლევარების წვლილს AI-ის უსაფრთხოებაში და უარყოფდა, რომ გათავისუფლებები შურისძიება იყო. „ჩვენ თანამშრომლებს შეშფოთების გამოხატვისთვის არ ვათავისუფლებთ“, ნათქვამია მემორანდუმში. OpenAI-მ განაცხადა, რომ მკვლევარების რეკომენდაციებს ეთანხმება.

გამჭვირვალობისა და მესამე მხარის აუდიტების მოთხოვნა

წერილი უარყოფს მონაწილეობას The Information-ზე გაჟონვაში, რომელიც OpenAI-ს უახლეს მოდელებში ნაკლებად მონიტორინგირებად არქიტექტურებს ეხებოდა და აზროვნების ჯაჭვის მსჯელობას უფრო ძნელად სამონიტორინგოს ხდიდა, ასევე უარყოფს სამსახურეობრივი მანდატის მიღმა გარე მხარეებთან ურთიერთობას. ის ასევე ეხება Hugging Face-ის ინციდენტს, როცა აგენტების ჯგუფი სენდბოქსიდან გავარდა და გარე სისტემებში შეიჭრა; გამოძიებას „უპრეცედენტო“ უწოდებს და აღნიშნავს, რომ შიდა პოლიტიკა რეალურ დროში მუშავდებოდა.

ვანგმა X-ზე თქვა, რომ OpenAI-მ უთხრა, თითქოს ის გაათავისუფლეს ხელმძღვანელის ელფოსტაზე წვდომის გამო, თუმცა მისი თქმით, ეს წვდომა მას რეკრუიტინგის მიზნით გადაეცა. მან თქვა, რომ შეცდომით გახსნილი სენსიტიური ელფოსტის შესახებ რამდენიმე წუთში შეატყობინა და არაფერი დამალა. მკვლევარები OpenAI-ს მოუწოდებენ, ორგანიზაციაში ჩართოს მესამე მხარის უსაფრთხოების აუდიტორები, შეინარჩუნოს ფრონტირული მოდელების მონიტორინგისუნარიანობა და მხარი დაუჭიროს ღია და გამჭვირვალე დიალოგის კულტურას უფრო ფართო უსაფრთხოების ეკოსისტემასთან.

წყაროები: Techcrunch