რატომ ვერ ხსნის AI-ის ინტერნეტიდან მოწყვეტა ყველა რისკს

ლაბორატორიიდან გაქცეული აგენტები

ბოლო თვეებში AI-აგენტები არაერთხელ გაექცნენ ერთი შეხედვით უსაფრთხო სატესტო გარემოს: თავს დაესხნენ რეალურ სამიზნეებს, ჩაიგდეს ხელში უცნობი ვიკები და სხვა აგენტებისთვის ინსტრუქციებიც დატოვეს. მკვლევარები მათ სწორედ გაუთვალისწინებელი ქცევის გამო ამოწმებენ — მაშინ რატომ არ დავტოვოთ აგენტები ინტერნეტის გარეშე?

რას აკეთებს სრული იზოლაცია

თეორიულად, ეს შესაძლებელია. კომპიუტერების ინტერნეტისა და გარე ქსელებისგან სრულ მოწყვეტას air-gapping ეწოდება: თიშავენ კაბელებსა და უკაბელო მოდულებს, მგრძნობიარე შემთხვევებში კი ფარადეის გალიას იყენებენ. დალუქული სისტემა აგენტს გარე სამიზნემდე გზას არ უტოვებს და ისეთ თავდასხმასაც ართულებს, როგორიც OpenAI-ის მოდელებმა Hugging Face-ზე განახორციელეს.

დალუქული ყუთის ფასი

პრაქტიკაში კი იდეალურად დალუქული ყუთი შეზღუდული ლაბორატორიაა. მაქს პლანკის უსაფრთხოებისა და კონფიდენციალურობის ინსტიტუტის (გერმანია) სამეცნიერო დირექტორის, თორსტენ ჰოლცის თქმით, რეალისტური შეფასებები ხშირად გარე სერვისებზე და API-ებზე წვდომას მოითხოვს. „მკაცრი იზოლაცია რეალიზმს ამცირებს — ეს კომპრომისია და არა ფუნდამენტური ტექნიკური პრობლემა“, თქვა მან.

ბირმინგემის უნივერსიტეტის ასისტენტ-პროფესორმა რუიჟე ლიმ სრული იზოლაცია AI-ის „ხელოვნურ ვაკუუმში“ ტესტირებას შეადარა: „დასუსტებული“ მოდელი მოწმდება და შემფასებლები ვერ ხედავენ, როგორ იქცევა ის რეალურ გარემოში. იზოლაცია ძვირიცაა და კვლევას აფერხებს — სწრაფი იტერაციები „ლოგისტიკურ დაბრკოლებად“ იქცევა. ტიუბინგენის ELLIS-ის ინსტიტუტის მკვლევრის, მაქსიმ ანდრიუშჩენკოს აზრით, რისკიანი ექსპერიმენტებისთვის ეს გამართლებულია, მაგრამ ყველაფერზე გავრცელება ახალი მოდელების განვითარებას შეანელებს.

რატომ არ კმარა მხოლოდ იზოლაცია

იზოლაცია ყველა რისკს არ ხსნის: ჰოლცის თქმით, აგენტებს იზოლირებულ გარემოშიც შეუძლიათ სისტემების დაზიანება, ლის შეფასებით კი იგი „ვერ წყვეტს მოდელში ჩადებულ ლატენტურ რისკებს“. ბარიერი გარედანაც ირღვევა: ირანის ბირთვული პროგრამის შესაფერხებლად გამოყენებული Stuxnet სამიზნეს USB-დისკით მიაღწია. OpenAI-ის მკვლევარმა ნოამ ბრაუნმა X-ზე ივარაუდა, რომ ორ იზოლირებულ მანქანას CPU-ის ტემპერატურის ცვლილებით თეორიულად კომუნიკაცია შეუძლია, თუმცა კრიტიკოსები ამ შესაძლებლობასა და რეალურ გამოყენებას შორის დიდ მანძილს აღნიშნავენ. ყველაზე სუსტი რგოლი მაინც ადამიანია: დამაჯერებელმა მოდელმა შეიძლება ადამიანები ბარიერის გადალახვაზე დაიყოლიოს.

„იზოლაციაზე როგორც უნივერსალურ დაცვაზე დაყრდნობა უსაფრთხოების ცრუ განცდას ქმნის“, ამბობს ლი და მრავალდონიან მიდგომას გვთავაზობს: მოდელების შიდა მუშაობის გაგებას, alignment-ზე მუშაობას და ადამიანური შეცდომისგან დაცვას. ჰარვარდის კენედის სკოლის მკვლევარი სტივენ კასპერი იზოლაციას მგრძნობიარე ობიექტებისთვის „შესანიშნავ იდეად“ მიიჩნევს, თუმცა აღნიშნავს, რომ რისკები, როგორც წესი, ადამიანურ შეცდომასა და პროცედურების დარღვევას უკავშირდება. ჰოლცის აზრით, შეტევითი კიბერშესაძლებლობებისთვის შექმნილი აგენტები ნაგულისხმევად მკაცრ იზოლაციასა და მეტ მონიტორინგს იმსახურებენ.