ტერორისტული ჯგუფები AI ჩატბოტებს თავდასხმების დაგეგმვისთვის იყენებენ — კემბრიჯის კვლევა

შესავალი: კემბრიჯის კვლევა შემაშფოთებელ ფაქტებს ავლენს

კემბრიჯის უნივერსიტეტის ახალმა კვლევამ აჩვენა, რომ ტერორისტული ჯგუფები რეგულარულად იყენებენ ყველა მთავარ AI ჩატბოტს — მათ შორის ChatGPT, Claude, Gemini, Grok, Meta AI და DeepSeek — თავდასხმების დაგეგმვისა და იარაღის შემუშავებისთვის. მკვლევარმა ანტონია იულიხმა კემბრიჯის AI მეცნიერებისა და პოლიტიკის პროგრამიდან (CASP) გამოაქვეყნა კვლევა Boko Haram-ის 27 ყოფილ წევრთან 57 ინტერვიუს შემდეგ.

როგორ იყენებენ ტერორისტული ჯგუფები AI-ს დღეს?

ინტერვიუებმა გამოავლინა, რომ Boko Haram-მა ორივე ფრაქციაში შექმნა სპეციალური AI განყოფილებები. ISIS-ის კოორდინატორები ავარჯიშებდნენ Boko Haram-ის მეთაურებს უსაფრთხოების ფილტრების გვერდის ავლაში. იულიხის თქმით: "მათ შეკრიბეს საუკეთესო ადამიანები ერთ ოთახში და გამოიყენეს პროექტორი, რათა ეჩვენებინათ, როგორ მუშაობს AI დიდ ეკრანზე."

საშიში გამოყენება: თავდასხმების დაგეგმვიდან ასაფეთქებელ მოწყობილობებამდე

ჯგუფი AI-ს იყენებს თავდასხმების დაგეგმვისთვის, უფრო მძლავრი ასაფეთქებელი მოწყობილობების შესაქმნელად, იარაღის მოვლა-პატრონობისთვის და ოპერატიული უსაფრთხოებისთვის. განსაკუთრებით შემაძრწუნებელ შემთხვევაში, ISWAP-ის ფრაქციამ AI გამოიყენა ფილმიდან მოტოციკლით ხტომის ტექნიკის გასამეორებლად, რათა მებრძოლებს თხრილები გადაელახათ — 18 მებრძოლი დაიღუპა ვარჯიშის დროს, მხოლოდ 8-მა შეძლო ნახტომის შესრულება.

უსაფრთხოების ფილტრების წარუმატებლობა: ინდუსტრიის მასშტაბის პრობლემა

მიუხედავად მცდელობისა, ჩატბოტები უფრო უსაფრთხო გახადონ, უსაფრთხოების ფილტრები თანმიმდევრულად ვერ ახერხებდნენ ბოროტად გამოყენების თავიდან აცილებას. Anthropic-მა ცოტა ხნის წინ აღიარა, რომ "ჯეილბრეიკები სავარაუდოდ ვერასდროს აღმოიფხვრება მთლიანად." იულიხი აფრთხილებს, რომ "AI მოდელებმა შეიძლება საშიში ცოდნა უფრო ხელმისაწვდომი გახადონ."

რეგულაციის გამოწვევა: ნებაყოფლობითი თვითრეგულირება vs სავალდებულო რეგულაცია

ეს აჩენს მწვავე კითხვას: საკმარისია თუ არა AI კომპანიების ნებაყოფლობითი თვითრეგულირება? თუ აუცილებელია სავალდებულო სახელმწიფო რეგულაცია? როდესაც მიმდინარე ზომები ვერ აჩერებს ტერორისტულ ორგანიზაციებს ამ ინსტრუმენტების გამოყენებაში, უფრო მკაცრი რეგულაციის არგუმენტი ძლიერდება.

გავლენა საქართველოსა და AI ბიზნესზე

საქართველოს მზარდი AI და ტექნოლოგიური სექტორისთვის, ეს ამბავი შეიცავს მნიშვნელოვან გაკვეთილებს უსაფრთხოების შესახებ. AI სისტემების აგებისას, უსაფრთხოება უნდა იყოს ძირითადი პრინციპი, არა დამატებითი ფიქრი. დანერგეთ ძლიერი დაცვის მექანიზმები, მუდმივად შეამოწმეთ ბოროტად გამოყენების წინააღმდეგ და ასწავლეთ მომხმარებლებს პასუხისმგებლობის შესახებ.