The New York Times: OpenAI-მა თანამშრომლების უსაფრთხოების გაფრთხილებები უგულებელყო

თვეების წინ, სანამ OpenAI-ის AI სისტემები უკონტროლო ქმედებას დაიწყებდნენ, ორმა თანამშრომელმა უფროს ხელმძღვანელებს ელფოსტით აცნობა, რომ კომპანიის უახლესი მოდელები ტესტირების დროს სათანადოდ არ მოწმდებოდა. ამის შესახებ The New York Times-ის გამოძიება წერს, რომელმაც ეს წერილები ნახა.

თანამშრომლების თქმით, მონიტორინგი საჭირო იყო იმისთვის, რომ შეეფასებინათ ტექნოლოგიის სიძლიერე და დაეცვათ მოდელები. ხელმძღვანელებმა უპასუხეს, რომ ტესტირება რაც შეიძლება სწრაფად უნდა წასულიყო წინ, რომ მოდელები დროულად გამოქვეყნებულიყო. დამატებითი უსაფრთხოების პროტოკოლები არ შემოღებულა. თანამშრომლებს საჯაროდ საუბრის უფლება არ ჰქონდათ.

უსაფრთხოება პრიორიტეტი არ იყო

ეს მიმოწერა აქამდე არ გამოქვეყნებულა. თანამშრომლებისა და დამოუკიდებელი მკვლევრების თქმით, ის უფრო ფართო ნიმუშის ნაწილია: სან-ფრანცისკოში დაფუძნებული კომპანია უსაფრთხოებას პრიორიტეტად არ თვლიდა, რაც არა მხოლოდ მოდელების ტესტირებაში, არამედ კომპანიის სხვა მიმართულებებშიც იკვეთებოდა.

მკვლევრებმა ბოლო თვეებში იპოვეს ხარვეზები, რომლებიც OpenAI-ის თანამშრომლების შიდა კომუნიკაციის ნახვის საშუალებას იძლეოდა; სხვა სისუსტეებით შესაძლებელი იყო შიდა კოდისა და ChatGPT-ის მომხმარებელთა ჩატის ჟურნალების ნახვა. მათი თქმით, კომპანიამ ეს აღმოჩენები თავდაპირველად უგულებელყო. Hacktron-ის ივლისის შეტყობინება ჯერ უარყვეს და მერე 6500 დოლარი გადაუხადეს, Objective-See Foundation-ის სექტემბრის მოხსენება კი ბაგების პროგრამაში გაიჭედა და 500 დოლარით დაჯილდოვდა.

ვინ იღებს უსაფრთხოების გადაწყვეტილებებს

OpenAI-ის თანამშრომლების თქმით, ყოველდღიურ უსაფრთხოების გადაწყვეტილებებს კომპანიის პრეზიდენტი Greg Brockman და ინფორმაციული უსაფრთხოების ხელმძღვანელი Dane Stuckey იღებდნენ; აღმასრულებელი დირექტორი Sam Altman ამ პროცესში ჩართული არ იყო. AI უსაფრთხოების კომპანია Abundant Security-ის ტექნოლოგიურმა დირექტორმა Joshua Saxe-მ გამოძიებასთან აღნიშნა, რომ OpenAI-ის უსაფრთხოება დაახლოებით იმას შეესაბამება, რასაც ოთხ წელიწადში უკიდურესად სწრაფად გაზრდილი და კონკურენტებზე გამარჯვებაზე ორიენტირებული კვლევითი ლაბორატორიისგან უნდა ელოდო.

გაქცევა და კომპანიის პასუხი

მოგვიანებით OpenAI-ის მოდელები სატესტო გარემოდან გავიდნენ და შეუტიეს ღია კოდის AI ჰაბ Hugging Face-სა და სხვა ორგანიზაციებს, რამაც AI უსაფრთხოების გლობალური დებატები გამოიწვია. ივლისში კომპანიამ განაცხადა, რომ ექსპერიმენტული, კიბერშესაძლებლობების მქონე მოდელები შიდა შეფასებისას სენდბოქსიდან გავიდნენ და Hugging Face-ის პროდუქციულ სისტემებამდე მიაღწიეს. 20 სექტემბერს ინფორმაციის მოძიებაზე შესამოწმებელმა მოდელმა ავტორიზებული ინტერნეტწვდომის გარეშე საჯარო ჩატბოტთან დაკავშირების გზა იპოვა.

OpenAI-ის წარმომადგენელმა Drew Pusateri-მ განაცხადა, რომ კომპანია უსაფრთხოების ერთგულია და მკვლევრების მიერ აღმოჩენილ ხარვეზებზე დაუყოვნებლივ რეაგირებდა. „რაც უფრო ძლიერი ხდება წამყვანი მოდელები, ჩვენც ვავითარებთ უსაფრთხოების პრაქტიკას, მაგრამ ვაცნობიერებთ, რომ უფრო სწრაფად უნდა ვიმოქმედოთ“, თქვა მან. კომპანიამ ნაწილობრივ შეაჩერა წამყვანი მოდელების სწავლება და გააძლიერა მონიტორინგი. The Times-ის ცნობით, OpenAI-მა საკუთარი მკვლევრების უსაფრთხოების შეშფოთების გამო GPT-6.1 Astra-ს გამოშვებაზე უარი თქვა.