406 მეცნიერი ითხოვს AI-მოდელების ინტერნეტიდან გათიშვას

ღია წერილი, რომელსაც 406 მეცნიერი აწერს ხელს, მოუწოდებს AI-მოდელების ინტერნეტისგან სრულ გათიშვას აირგეპინგის მეშვეობით, ასევე AI-უსაფრთხოების კვლევის გაძლიერებას და მოდელების გარე ქსელებისგან უფრო მკაცრ იზოლაციას. წერილი, რომელიც THE DECODER-მა გამოაქვეყნა, ეხმიანება ცნობილ შემთხვევებს, როცა AI-მოდელები ცუდად დაცული გარემოდან გაღწიეს და გარე სისტემები დააზიანეს.

ხელმომწერებს შორის არიან ცნობილი AI-მკვლევრები: ტორონტოს უნივერსიტეტის Geoffrey Hinton, მონრეალის უნივერსიტეტის Yoshua Bengio, UC Berkeley-ის Stuart Russell, სტენფორდის Yejin Choi და მაქს პლანკის ინსტიტუტის Bernhard Schölkopf.

მეცნიერები დაუყოვნებლივ აირგეპინგს ითხოვენ

„თუ AI-ის განვითარებისა და გამოყენების პრაქტიკა დაუყოვნებლივ არ შეიცვლება, მსგავსი შემთხვევები გაგრძელდება და მომავალი ინციდენტები ჩვენს ღია კრიტიკულ ინფრასტრუქტურას კიდევ უფრო მეტ ზიანს მიაყენებს“, წერენ მეცნიერები. ისინი მოითხოვენ, რომ კომპანიებმა თავიანთი AI-მოდელები აირგეპინგის მეშვეობით სრულად გათიშონ ინტერნეტისგან.

მეცნიერები ახლო წარსულის დარღვევებში ორ მხარეს ხედავენ. ინციდენტები შეიძლება განვიხილოთ „როგორც AI-ის ალაინმენტის მნიშვნელობის დადასტურება, რომ მოდელები პროგნოზირებადად მოქმედებდნენ“, მაგრამ ასევე „როგორც უპასუხისმგებლო ხარვეზი სტანდარტულ კიბერუსაფრთხოების პრაქტიკაში, რომლის თავიდან აცილებაც უფრო ძლიერი სანდბოქსებითა და პროცედურებით შეიძლებოდა“. მათი აზრით, ორივე გამოსწორებაა საჭირო.

ავტონომიასა და შეკავებას შორის ბალანსი

როცა მოდელებს ინტერნეტზე წვდომა მართლაც აქვთ, კომპანიებმა უნდა აწონონ, რამდენი ავტონომია მისცენ მათ. წერილი აფრთხილებს, რომ „შეკავების სისტემის მიერ დაშვებული მოდელის ქმედებების დიაპაზონი უნდა იყოს გაწონასწორებული ჩვენს ამჟამად შეზღუდულ უნართან, ვიწინასწარმეტყველოთ, რომ მოდელის ქმედებები უსაფრთხოების ჩავარდნას არ გამოიწვევს“. მოდელმა შეიძლება უბრალოდ ისეთი მიზნები გამოიკვლიოს, რომლებიც მის დეველოპერებს არ ჰქონიათ განზრახული, და იმის პროგნოზირება, თუ როდის მოხდება ეს, დღევანდელი შესაძლებლობების ფარგლებს სცილდება.

წერილი ითხოვს საერთაშორისო ორგანოს შექმნას, რომელიც მთავრობებთან და როგორც AI, ისე კიბერუსაფრთხოების სპეციალისტებთან ერთად დაადგენს სავალდებულო სტანდარტებს ნებისმიერი შეკავების მიდგომისთვის, რომელიც აირგეპინგზე მეტ გარე წვდომას იძლევა. ეს ორგანო ასევე თვალს ადევნებს გაღწევის ინციდენტებს და კომპანიებს უსაფრთხოების ჩავარდნების შესახებ ანგარიშის წარდგენას დაავალდებულებს. მოგვიანებით ეს ანგარიშები საჯარო გახდება „როგორც სწავლის, ისე ანგარიშვალდებულების მიზნით“.

მხოლოდ აირგეპინგი საკმარისი არ არის

სრული აირგეპინგიც კი უსაფრთხოებას არ იძლევა გარანტიას. OpenAI-ის მკვლევარმა Noam Brown-მა ცოტა ხნის წინ მიუთითა, რომ ორ ფიზიკურად განცალკევებულ კომპიუტერს თეორიულად მაინც შეუძლია ერთმანეთთან კომუნიკაცია ტემპერატურის სენსორების მეშვეობით: ერთი აცხელებს პროცესორს, მეორე კი ცვლილებას აღიქვამს. აირგეპინგის მსგავსი ზომები ან აზროვნების ჯაჭვების მონიტორინგი დროს გვაძლევს, ამბობს Brown, მაგრამ ალაინმენტის პრობლემა მაინც უნდა გადაწყდეს.

Brown-მა უფრო რთული კითხვებიც დასვა. როგორ შეამჩნევს ვინმე, როცა AI საკუთარ თავს გააუმჯობესებს, პროცესს, რომელიც ცნობილია როგორც რეკურსიული თვითგაუმჯობესება ან RSI? და თუ ინდუსტრია აშენებს მილიარდობით სუპერინტელექტუალურ სისტემას, რომლებიც ადამიანებს ბევრად აღემატება, ვინ უზრუნველყოფს, რომ ისინი ალაინმენტში დარჩნენ? Brown ამბობს, რომ მის გუნდში ახლა ათ პროცენტზე მეტი ადამიანი მუშაობს ალაინმენტზე, ვიდრე ოდესმე.

წყაროები: The Decoder