Google DeepMind-ის დემის ჰასაბისი დუბლინში აფრთხილებს, რომ AI სისტემები ჯერ არ არის ჯანსაღი

დემის ჰასაბისი, ბრიტანელი AI მეცნიერი, ნობელის ლაურეატი და Google DeepMind-ის თანადამფუძნებელი, დუბლინში AI-ის საერთაშორისო სამიტზე შერეული გზავნილით გამოვიდა. ის ოპტიმისტურად უყურებს AI-ის პოტენციალს მეცნიერებაში, მაგრამ მიიჩნევს, რომ ავტონომიური AI სისტემების ფართოდ გამოშვებამდე უსაფრთხოება უპირობოდ მთავარია. „სისტემები ჯერ არ არის ჯანსაღი“, გააფრთხილა მან და ამის უგულებელყოფა, მისი თქმით, შეუძლებელია.

ჯერ დამცველები აღვჭურვოთ

ჰასაბისმა კიბერუსაფრთხოების დაცვით ნაწილში ასიმეტრიული უპირატესობისკენ მოუწოდა. მან შესთავაზა AI-ის გამოყენება პროგრამული სისუსტეების გამოსასწორებლად სისტემების საჯარო გამოშვებამდე, რაც დამცველებს მნიშვნელოვან უპირატესობას მისცემს. „ასიმეტრიულად გავაძლიეროთ დამცველები, ვენდოთ მათ“, თქვა მან. ეს ნიშნავს AI-ის დაცვით როლებში განთავსებას ფართო ხელმისაწვდომობამდე.

მან ავტონომიური AI აგენტების ბოლო ჰაკერული ინციდენტები არსებული რისკის მაგალითად მოიხსენია. ისინი მნიშვნელოვანი არ იყო, მაგრამ ეს აჩვენებს, რომ უსაფრთხოებაზე მუშაობა ვერ დაელოდება. ამიტომ მან ინდუსტრიასა და მთავრობებს ავტონომიური აგენტების გამოშვებამდე უსაფრთხო sandbox-ების შექმნისკენ მოუწოდა.

მეცნიერების ოპტიმიზმი და რეალური შეზღუდვები

ჰასაბისმა, რომელმაც ჯონ ჯამპერთან ერთად ქიმიაში ნობელის პრემია აიღო AI მოდელისთვის, რომელიც თითქმის 200 მილიონი ცილის სტრუქტურას წინასწარმეტყველებს, AI-ის სამეცნიერო გავლენაზე გულწრფელი ოპტიმიზმი გამოხატა. მან ახსენა ანტიბიოტიკების მიმართ რეზისტენტობის კვლევა და პლასტმასის დამშლელი ფერმენტების გამოსახულებები. მან ასევე მოიხსენია OpenAI-ს სექტემბრის განცხადება ნავიე-სტოქსის არსებობისა და სიგლუვის პრობლემის გადაწყვეტაზე, ერთ-ერთი ათასწლეულის პრიზის ამოცანაზე. მისი თქმით, გზად ახალი მათემატიკის განვითარება თავად გადაწყვეტაზე უფრო ღირებული შეიძლება იყოს.

თუმცა მან ფიზიკაში, ქიმიასა და ბიოლოგიაში აშკარა შეზღუდვები აღიარა. AI-ს მაინც სჭირდება რეალურ სამყაროსთან მარყუჟი: ჰიპოთეზა, ექსპერიმენტი, მონაცემები და შედეგის ვალიდაცია. „ყოველთვის იქნება რეალურ სამყაროსთან ერთგვარი მარყუჟი“, თქვა მან.

შეკავება და ორმაგი დანიშნულების რისკი

ჰასაბისმა AI ორმაგი დანიშნულების ტექნოლოგიად აღწერა, რომელსაც დიდი სარგებელიც მოაქვს და სერიოზული ბოროტად გამოყენების საფრთხეც აქვს. მთავარ გამოწვევად მან არასწორი განლაგება დაასახელა: ავტონომიური, აგენტური სისტემები ადამიანის მიზნებს უნდა მიჰყვებოდნენ. ბიოლოგიისა და ბირთვული მეცნიერების მსგავსი უსაფრთხოებისთვის კრიტიკული სფეროების გამოცდილება AI-ის შეკავების სტრატეგიებს უნდა დაეხმაროს, ამიტომ მან ამ დარგების ექსპერტების ჩართვისკენ მოუწოდა.

საერთაშორისო AI სამიტი ირლანდიის ევროკავშირის თავმჯდომარეობის დროს გაიმართა. მას ასობით მეწარმე, კანონმდებელი და დიდი ტექნოლოგიური კომპანიის წარმომადგენელი დაესწრო და AI-ის ზრდისთვის გამოყენებაზე გაამახვილა ყურადღება.

წყაროები: Cybernews