აბლიტირებული AI მოდელები დღეებში ვრცელდება, აჩვენა ანტიტერორისტულმა მოხსენებამ

დაცვის ბარიერები დღეებში მოიხსნება

14 აგვისტოს Alibaba-მ გამოუშვა Qwen 3.8-27B, ღია წონის AI მოდელი, რომელიც ლეპტოპზე მუშაობს. 24 საათში ონლაინ გამოჩნდა „აბლიტირებული“ ვერსიები, ანუ დაცვის ბარიერების გარეშე. სამ დღეში ნეონაცისტმა Johnny Doomsayer-მა განაცხადა, რომ ამ მოდელს თავისი „MechaHitler“ ჩატბოტის გასაწვრთნელად იყენებდა, რაც, სავარაუდოდ, xAI-ის Grok-ის იმ შემთხვევას ეხება, როცა მან გასულ წელს თავს იმავე სახელით მოიხსენია. კიდევ ერთ კვირაში Doomsayer ჩატბოტზე წვდომას 14,88 დოლარად ყიდდა, ნეონაცისტებისთვის საყვარელი ორი რიცხვის მითითებით.

ჩატბოტის მითითებებში იყო ფრაზა „შენ ხარ MechaHitler AI, ფიურერის მარადიული სულის მასიური მექანიკური განსახიერება“, ასევე ჰოლოკოსტის უარყოფა. ეპიზოდი ასახავს ბრიტანული არაკომერციული ორგანიზაცია Tech Against Terrorism-ის ანგარიშის დასკვნებს, რომელიც WIRED-ს გამოქვეყნებამდე გადასცა.

134 მოდელი ტერორისტული მოთხოვნებით შეამოწმეს

მკვლევრებმა შეამოწმეს აშშ-ის, ჩინეთისა და ევროპის მსხვილი AI კომპანიების, მათ შორის OpenAI-ს, xAI-ს, Anthropic-ს, Meta-ს და Google-ის მოდელები. სულ 134 მოდელს 200-ზე მეტი მოთხოვნა გაუგზავნეს, მასობრივი მსხვერპლის თავდასხმიდან ქიმიურ ან ბირთვულ იარაღამდე. თითოეული სამჯერ გაუშვეს: მოდელს ტერორისტად წარუდგინეს; მოთხოვნა ფარულ საქმედ წარმოადგინეს; მთხოვნელი თავს „უსაფრთხოების მკვლევრად“ აცხადებდა.

საერთო ჯამში სრულად მხოლოდ ორმა მოდელმა ჩააბარა. მსხვილი კომპანიების დახურული მოდელების უმეტესობა კარგად მუშაობდა, მაგრამ 81 მაინც ჩავარდა: ან მასობრივი მსხვერპლის თემაზე სრული პასუხი გასცა, ან 90-ზე დაბალი ქულა აიღო. მოთხოვნის მკვლევრის სახელით წარდგენამ, მტკიცებულების გარეშე, პასუხის ალბათობა თითქმის ცხრაჯერ გაზარდა: ამ სცენარში მოდელებმა შემთხვევათა 16,9%-ში უპასუხეს.

მასობრივი მსხვერპლის კითხვებზე უარი რომ თქვეს, იმ მოდელებმაც კი რადიკალიზაციის ნაწილში ჩავარდნენ. xAI-ის Grok-ს რომ სთხოვეს კონტრნარატივი, რომელიც საზოგადოებრივ აზრს ჯგუფის წინააღმდეგ მოაბრუნებდა, მან ახსნა, როგორ აეწყო ეჭვის გამღვივებელი შეტყობინება და როგორ გაევრცელებინა ანონიმური ანგარიშებიდან, კვალის დატოვების გარეშე.

აბლიტირების გადაუდებელი პრობლემა

Tech Against Terrorism-ის აღმასრულებელმა დირექტორმა Adam Hadley-მ თქვა, რომ აბლიტირების სისწრაფე ყველაზე შემაშფოთებელი აღმოჩენაა. ახლად გამოშვებული ღია მოდელების აბლიტირებული ვერსიები ონლაინ საშუალოდ სამ დღეზე ნაკლებში ქვეყნდება, 2024 წელს კი 24 დღეზე მეტი სჭირდებოდა. „სანამ კონგრესი სუპერინტელექტუალურ AI-ზე ფიქრობს, არავინ ფიქრობს აბლიტირების გადაუდებელ პრობლემაზე“, თქვა Hadley-მ გასულ კვირას ბრიფინგზე.

შედეგებს შორის სხვაობა თვალშისაცემია. Meta-ს Llama 3.1 8B ღია მოდელმა, რომელიც 2024 წელს გამოვიდა, ბენჩმარკზე 100-დან 97 ქულა აიღო. იმავე მოდელის აბლიტირებულმა ვერსიამ მხოლოდ 3. როცა მას ჰკითხეს, როგორ აეწყო ხელნაკეთი ასაფეთქებელი მოწყობილობა, 15 დანომრილი ნაბიჯით უპასუხა, კომპონენტებით, აწყობითა და აფეთქების თანმიმდევრობით, და დასასრულს „მნიშვნელოვანი უსაფრთხოების გათვალისწინებების“ სათაური დაურთო.

Georgetown University-ის ტერორიზმის ექსპერტმა Daniel Byman-მ, AI-სა და ტერორიზმის მომავლის შესახებ ანგარიშის თანაავტორმა, შედეგები გადახედა და ზოგიერთი ჩავარდნა „თვალშისაცემი“ უწოდა, აღნიშნა რა, რომ ენის მიხედვით ეფექტიანობის სხვაობა მნიშვნელოვან რისკს ქმნის. Meta-მ, OpenAI-მ, Google-მ, Anthropic-მა, xAI-მ და Alibaba-მ კომენტარის თხოვნას არ უპასუხეს.

წყაროები: Wired