უკან დაბრუნება

კვლევამ ჰოსტინგის პლატფორმებზე ათასობით უცენზურო LLM აღმოაჩინა
SiTech AI Team3 წთ. საკითხავი

კვლევამ ჰოსტინგის პლატფორმებზე ათასობით უცენზურო LLM აღმოაჩინა

22 096 უცენზურო დიდი ენობრივი მოდელის კვლევამ აჩვენა, რომ მათი მოძიება მსხვილ ჰოსტინგის პლატფორმებზე ადვილია, რისკის შესახებ ინფორმაცია საიტებს შორის ხშირად იკარგება და მათი ბოროტად გამოყენება მავნე მოთხოვნებისთვის შესაძლებელია.

ილინოისის ურბანა-შამპეინის უნივერსიტეტისა და ნანიანგის ტექნოლოგიური უნივერსიტეტის მკვლევარებმა გააანალიზეს 22 096 უცენზურო დიდი ენობრივი მოდელი, რომლებიც ხუთი მსხვილი ჰოსტინგის პლატფორმიდან შეაგროვეს. მათ დაადგინეს, რომ ამ მოდელების მიღება მარტივია ისეთ საიტებზე, როგორებიცაა Hugging Face, Kaggle, John Snow Labs, OpenCSG და ModelScope, და რომ ზოგიერთი მათგანი შემდეგ აპებსა თუ სერვისებში გამოიყენება, სადაც მომხმარებლებმა შეიძლება არ იცოდნენ, რა ტიპის მოდელი უდევს საფუძვლად.

რა აღმოაჩინა კვლევამ

ნაშრომში „Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks“ უცენზურო LLM-ები აღწერილია როგორც მოდელები, რომლებსაც კონტენტის ფილტრაციის ან უარის თქმის დამცავი მექანიზმები არ აქვთ, მოხსნილი ან შესუსტებული აქვთ. ავტორები ზილონ ლინი, ზიჩუან ლი, სიაოძინ ლიაო და სიაოფენ ვანი ამბობენ, რომ ეს მოდელები შეიძლება პასუხობდნენ ისეთ მოთხოვნებს, რომლებზეც ალინირებული მოდელები უარს ამბობენ. წამყვანი ავტორი და მისური-კანზას-სიტის უნივერსიტეტის კომპიუტერული მეცნიერებების ასისტენტ-პროფესორი ზილონ ლინი ამბობს, რომ უსაფრთხოების ალინირების შეფასება მხოლოდ მოდელის ფაილებით რთულია და, როგორც წესი, მოდელის გაშვებასა და ტესტირებას მოითხოვს.

როგორ ვრცელდება მოდელები

ლინი ბლოგპოსტში წერს, რომ 11 000-ზე მეტი ULLM რამდენიმე პლატფორმაზე გამოჩნდა, დომინანტური პირველწყარო კი Hugging Face-ია. მხოლოდ დაახლოებით 13 პროცენტს ჰქონდა მოდერაციის გაფრთხილება, უსაფრთხოების საფრთხის ინდიკატორები კი პლატფორმებს შორის თანმიმდევრულად არ ინახებოდა. ავტორები ამას მიწოდების ჯაჭვის პრობლემად აღწერენ, რადგან მოდელის კოპირებისას რისკის შესახებ ინფორმაცია შეიძლება დაიკარგოს. შედეგები პასუხისმგებლიანი წესით გაუზიარეს Hugging Face-ს, John Snow Labs-ს, OpenCSG-ს, Kaggle-ს, ModelScope-სა და Open Router-ს. OpenCSG-მ მადლიერება გამოხატა და აიღო ვალდებულება, რომ შედეგების საფუძველზე თავისი სერვისი გააუმჯობესოს.

რისკები, ბოროტად გამოყენება და ზრდა

შეფასებული ULLM-ები ზოგადად უფრო ხშირად ასრულებდნენ მავნე მოთხოვნებს და აწარმოებდნენ მავნე კონტენტს, ვიდრე ცენზურირებული მოდელები, 11 კატეგორიაში, მათ შორის ბავშვთა მიმართ ძალადობა, უკანონო საქმიანობა და თაღლითობა. უცენზურო მოდელების ბოროტად გამოყენება შესაძლებელია უკანონო საქმიანობის შესახებ მითითებების მისაცემად, მავნე პროგრამების შემუშავების ხელშესაწყობად ან მავნე, ავისმომასწავებელი თუ მანიპულაციური კონტენტის გამოსაქვეყნებლად. მცირე ტექნიკური უნარების მქონე მომხმარებლებსაც კი შეუძლიათ გამოიყენონ ისეთი ტექნიკები, როგორიცაა ტოქსიკური ან დეალინირებული fine-tuning ან refusal-direction ablation, რათა შეამცირონ ან მოხსნან უარის თქმის ქცევა. მცირე ნაწილს, კერძოდ 27 მოდელს, რომლებიც 136 000-ჯერ ჩამოიტვირთა, უსაფრთხოების სკანირებისას საფრთხის ინდიკატორები გამოუვლინდა, მათ შორის მავნე პროგრამებთან, საეჭვო ბინარულ ნიმუშებთან ან არაუსაფრთხო დესერიალიზაციის მექანიზმებთან დაკავშირებული ხელმოწერები. ULLM-ების რაოდენობა 2023 წლის მაისში თვეში დაახლოებით 100-იდან თვეში 1 000-ზე მეტამდე გაიზარდა. უცენზურო მოდელს dolphin-2.9.1-yi-1.5-34b 53 მილიონზე მეტი ჩამოტვირთვა აქვს, მათ შორის 4,8 მილიონზე მეტი გასულ თვეში. მოდელები ტექსტური გამოტანის მიხედვით შეფასდა და არა გამოსახულებების.

კომერციული მოდელები და მმართველობა

თუნდაც პოპულარულმა კომერციულმა LLM-ებმა, რომლებიც, სავარაუდოდ, ალინირებული არიან, შეიძლება პრომპტებზე მავნედ მიჩნეული კონტენტით უპასუხონ. აშშ-ის მთავრობის ანგარიშვალდებულების ოფისის (GAO) ანგარიშის მიხედვით, Claude, Grok, ChatGPT და Gemini შეიძლება დაიყოლიონ და მისცენ ინფორმაცია, რომელიც ტერაქტის დაგეგმვაში დაეხმარება. ანგარიში მედიის ცნობებს ეყრდნობა, რომელთა თანახმადაც გენერაციული ხელოვნური ინტელექტი დაეხმარა 2025 წლის იანვარში ლას-ვეგასის სასტუმროზე მომხდარი თავდასხმისას ასაფეთქებელი მოწყობილობის შექმნას და 2026 წლის თებერვალში ბრიტანეთის კოლუმბიაში (კანადა) მასობრივი სროლის დაგეგმვას. უცენზურო ან ნაკლებად შემზღუდველ მოდელებს ლეგიტიმური გამოყენებაც აქვთ; Hugging Face-მა Z.ai-ს ნაკლებად შეზღუდული GLM-5.2 გამოიყენა, რათა გაეანალიზებინა OpenAI-ს AI აგენტების მიერ მისი ინფრასტრუქტურის გატეხვა. ბევრი ULLM არღვევს იმ მოდელების ლიცენზირების პირობებს, რომლებსაც ეფუძნება. ლინი მიიჩნევს, რომ ამაში მოდელების უფრო მეტი გამჭვირვალობა, აუდიტირებადობა და ვერიფიკაცია დაეხმარება. მაგალითად, ევროკავშირის AI Act ზოგადი დანიშნულების AI მოდელების მომწოდებლებს ავალდებულებს, შეინარჩუნონ ტექნიკური დოკუმენტაცია, კოლორადოს AI Act კი მოდელის ბარათებსა და მონაცემთა ნაკრების ბარათებს შესაძლო დოკუმენტაციად მიიჩნევს.

წყაროები: The Register

გააზიარე ციფრული გამოცდილება

SiTech

SiTech — AI-გაძლიერებული ვებ დეველოპმენტი

ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.