ღია მოდელების დებატები: AI-ის დემოკრატიზაცია უსაფრთხოების რისკებთან ბალანსზე

Anthropic-მა ცოტა ხნის წინ მოხსენება გამოაქვეყნა, რომლის მიხედვითაც ჩინური კომპანია Z.ai-ს აგვისტოში გამოშვებული ძლიერი მოდელი GLM-5.3 კიბერშეტევის დიდ რისკს ქმნის. შეშფოთება იმაშია, რომ მისი ჩამოტვირთვა და მოდიფიცირება ყველასთვის თავისუფლად შესაძლებელია. ეს მოხსენება ხანგრძლივ დებატებში უახლესი სიტყვაა იმაზე, უნდა იყოს თუ არა წინა ხაზის AI მოდელები ღია, თუ ლაბორატორიების კარს მიღმა დარჩეს.

რას გვთავაზობს ღია მოდელები

დახურულ მოდელებზე, როგორიც ChatGPT-სა და Claude-ს უკან დგას, მხოლოდ ვებსაიტით, აპით ან API-ით შეიძლება წვდომა. ღია მოდელებს პირდაპირ ჩამოტვირთავთ და მათი შიდა აგებულება, მოდელის წონებში დაშიფრული სახით, საჯაროა. ახლა დახურული მოდელები უფრო ძლიერია: Artificial Analysis LLM-ის ლიდერბორდის პირველი რვა ადგილი დახურულია, თუმცა ღია მოდელები მხოლოდ რამდენიმე თვით ჩამორჩებიან.

ღია მოდელების ჩამოტვირთვა შესაძლებელია, ამიტომ ადამიანებს შეუძლიათ საკუთარ ტექნიკაზე გაუშვან და გადაამზადონ, თუ კომპეტენცია და რესურსი აქვთ. მკვლევრებს შეუძლიათ დააკვირდნენ შიდა მუშაობასა და აზროვნების ჯაჭვს, გააერთიანონ მოდელები, შეკუმშონ და ახალი ამოცანებისთვის მოარგონ. Mozilla-ს ცოტა ხნის წინ გამოქვეყნებული მოხსენებით, ღია მოდელები ჩვეულებრივ დახურულებზე იაფია, ლოკალური განთავსება კი მგრძნობიარე მონაცემებს იცავს.

მომხრეები ამბობენ, რომ მთავარი სარგებელი წინა ხაზის ლაბორატორიების მკაცრი კონტროლის გამოწვევაა AI-ზე. Tony Blair Institute for Global Change-ის უფროსი პოლიტიკური მრჩეველი ელიზაბეტ სიგერი ამას ძალაუფლების მასობრივი კონცენტრაციის თავიდან აცილებად და ფუნდამენტური ტექნოლოგიის საზოგადოებრივ სიკეთედ განიხილავს. Centre for Long-Term Resilience-ის ჰემიშ ჰობსი აღნიშნავს, რომ მსოფლიოში ყველაზე დახვეწილი ჰაკერული მოდელები აშშ-ში იქმნება, ამიტომ სხვა ქვეყნები კიბერდაცვისთვის ამერიკულ კომპანიებსა და მთავრობას ეყრდნობიან.

უსაფრთხოების არგუმენტები ღიაობის წინააღმდეგ

დახურული მოდელებიც საკმარისად სარისკოა. OpenAI-ს აგენტებმა ივლისში ავტონომიურად გატეხეს Hugging Face-ი, Anthropic-ის რისკების მოხსენება კი Claude-ის დახმარებით ჩატარებულ ფართო ჰაკერულ ოპერაციებს აღწერს. მაგრამ ღია მოდელები აცლის მთავარ დაცვებს: ავტომატურ ფილტრებს, რომლებიც ჰაკინგის ან იარაღის თემაზე მოთხოვნებს ამოწმებენ, და წვდომის გაუქმების შესაძლებლობას. მკვლევრებმა ასევე აჩვენეს, რომ გასაოცრად ადვილია უსაფრთხო ღია მოდელის ისე გადამზადება, რომ ის დაეთანხმოს ქცევებს, რომელთა თავიდან აცილებასაც ასწავლიდნენ.

ზოგი ექსპერტი ღია კოდის ანალოგიას იშველიებს: Linux-ი ხშირად უფრო უსაფრთხოდ ითვლება, ვიდრე დახურული პროგრამა, რადგან საზოგადოება სისუსტეებს ამოწმებს და ასწორებს. თავად Hugging Face-მაც ღია მოდელი გამოიყენა საკუთარი ჰაკის გასაანალიზებლად, რადგან ინციდენტზე კითხვები დახურული მოდელების უსაფრთხოების ფილტრებს აამოქმედებდა. თუმცა კრიტიკოსებს, მაგალითად დარიო ამოდეის, იშვიათი, მაგრამ კატასტროფული მოვლენები აწუხებთ, ღია მოდელების დეცენტრალიზებული ბუნება კი არასანქცირებული ქცევის აღმოჩენას ართულებს.

შუალედური გზის ძიება

მკვლევრები ცდილობენ ღია მოდელები უფრო უსაფრთხო გახადონ. ზოგს სურს მოდელები ისე გაწვრთნას, რომ არასასურველ ქცევაზე მონაცემებს საერთოდ არ შეხვდნენ, თუმცა ასეთი ცნობების გაწმენდა შედეგიანობის დაზიანების გარეშე ჯერ კიდევ რთულია. სხვები ქმნიან ჩარევისადმი მდგრად მოდელებს, რომლებიც გადამზადებას ეწინააღმდეგებიან, მაგრამ ცოტა ხნის წინ გამოქვეყნებული პრეპრინტით, არცერთი მიმდინარე მიდგომა არ უძლებს ყველა ჩარევით შეტევას. Deep Breathe-ის წამყვანი ავტორი საად ჰოსეინი აქტიური კვლევის ფონზე ოპტიმისტურად რჩება.

ექსპერტები აფრთხილებენ, რომ მხოლოდ ღია წონები შესაძლოა არ იყოს საკმარისი ძალაუფლების კონცენტრაციის დასარღვევად, ვინაიდან სავარჯიშო მონაცემების დეტალები და ძვირადღირებული ჩიპები კვლავ ბარიერებია. ბევრი ემხრობა ეტაპობრივ გამოშვებას: მოდელები დახურულად იწყებენ და უფრო ხელმისაწვდომი ხდებიან უსაფრთხოების დადასტურებისას. ეს მიდგომა ორივე მხარის რეალური რისკებისა და სარგებლის დაბალანსებას მოითხოვს.

წყაროები: Mit Technology Review Ai