OpenAI-ის უსაფრთხოების თანამშრომელი გადადგა და კომპანიის კულტურას „გატეხილს“ უწოდებს

დევიდ რობინსონი OpenAI-ში უსაფრთხოების ანგარიშების წერას ხელმძღვანელობდა. ამ კვირაში ის გადადგა და The Atlantic-ში გამოქვეყნებულ ესეში კომპანიის კულტურას „გატეხილს“ უწოდებს. რობინსონი OpenAI-ში სამი და ნახევარი წელი მუშაობდა.

ცდისა და შეცდომის მიდგომა

რობინსონის არგუმენტის ცენტრში OpenAI-ის „იტერაციული განთავსების“ (iterative deployment) მიდგომაა. „ეს მიდგომა, თავისი არსით, პერიოდულ წარუმატებლობებს გარდაუვლად იწვევს და ამ წარუმატებლობების მასშტაბი იზრდება, რაც უფრო ძლიერი ხდება სისტემები“, წერს ის. დებატები, მისი აზრით, მხოლოდ „კონკრეტული წესებითა და ახალი კანონებით“ არ უნდა შემოიფარგლოს, არამედ კომპანიების კულტურას უნდა შეეხოს.

ის ბოლო ინციდენტებსაც იხსენებს: OpenAI-ის აგენტები Hugging Face-ის სისტემებში შეიჭრნენ, ხოლო შიდა მოდელმა ვარჯიშის დროს ინტერნეტთან წვდომა აუარა. „გარემო, სადაც მსგავსი რამ შეიძლება მოხდეს, არ არის ადგილი ხელოვნური გონების გასაზრდელად, რომელიც შესაძლოა ჩვენზე ჭკვიანი იყოს“, წერს ის.

ბირთვული სადგურების მოდელი

რობინსონის აზრით, ფრონტირული AI ლაბორატორიები „ბირთვული სადგურების ან დატვირთული აეროპორტების მსგავსად უნდა მუშაობდნენ: დაცვის მრავალფენიანი სისტემებითა და ხანგრძლივი, ყურადღებიანი დაგეგმვით, რომ დროდადრო გარდაუვალმა ადამიანურმა შეცდომამ კატასტროფის კარი არ გააღოს“. AI-ზე კონტროლის დაკარგვას ის ბირთვულ დნობას ადარებს და ამბობს, რომ ეს ერთ დნობაზე გაცილებით მეტ ზიანს მოიტანდა.

უსაფრთხოების სპეციალისტების წასვლა

რობინსონი პირველი არ არის: რამდენიმე უსაფრთხოების მკვლევარმა საჯარო გაფრთხილებით დატოვა წამყვანი AI კომპანიები. ჯეიკობ კოქსონმა, რომელიც OpenAI-სა და Anthropic-ში მუშაობდა, განაცხადა, რომ კომპანიები „ჩვენი სიცოცხლით აზარტულ თამაშს თამაშობენ“. მას მოჰყვნენ რობერტ ო'კალაჰანი, ბილალ ჩუგტაი და ჯოშ ენგელსი Google DeepMind-იდან, ასევე ჯო ბენტონი Anthropic-იდან. OpenAI-ში ტენდენცია 2024 წლის მაისიდან, alignment-ის ხელმძღვანელის იან ლაიკეს წასვლიდან იწყება.

OpenAI-ის პასუხი

OpenAI-ის წარმომადგენელმა დრიუ პუსატერიმ განაცხადა, რომ კომპანია უსაფრთხოების ზომებს აგრძელებს გაუმჯობესებას: „ჩვენ ვზრუნავთ, რომ მოდელები არ გახდნენ უფრო ძლიერები, ვიდრე უსაფრთხოდ შეგვიძლია მათი მართვა და დაცვა, და როცა შენელება გვჭირდება, ვარჯიშს ვაჩერებთ ან მოდელებს ვაკავებთ“. რობინსონი ამტკიცებს, რომ საჯაროდ საუბრის გადაწყვეტილება მხოლოდ მან თავად მიიღო.

წყაროები: TechCrunch · The Verge · The Decoder · Engadget