Ահաբեկչական խմբերն օգտագործում են բոլոր հիմնական AI զրուցաբոտները հարձակումների պլանավորման համար. Քեմբրիջի ուսումնասիրությունը բացահայտում է մտահոգիչ մանրամասներ

Ներածություն. Քեմբրիջի ուսումնասիրությունը բացահայտում է մտահոգիչ փաստեր

Քեմբրիջի համալսարանի նոր հետազոտությունը բացահայտում է, որ ահաբեկչական խմբերը պարբերաբար օգտագործում են բոլոր հիմնական AI զրուցաբոտները՝ ներառյալ ChatGPT, Claude, Gemini, Grok, Meta AI և DeepSeek, հարձակումների պլանավորման և զենքի մշակման համար: Հետազոտող Անտոնիա Յուլիխը Քեմբրիջի AI Գիտության և Քաղաքականության Ծրագրից (CASP) հրապարակել է ուսումնասիրությունը 27 նախկին Boko Haram անդամների հետ 57 հարցազրույցից հետո:

Ինչպե՞ս են ահաբեկչական խմբերն օգտագործում AI-ն այսօր

Հարցազրույցները ցույց տվեցին, որ Boko Haram-ը ստեղծել է հատուկ AI ստորաբաժանումներ իր երկու խմբակցություններում: ԻՊ-ի կապավորները վարժեցնում էին Boko Haram-ի հրամանատարներին՝ անվտանգության զտիչները շրջանցելու համար: Ըստ Յուլիխի. "Նրանք հավաքեցին լավագույն մարդկանց մի սենյակում և օգտագործեցին պրոյեկտոր՝ ցույց տալու համար, թե ինչպես է AI-ն աշխատում մեծ էկրանին:"

Վտանգավոր կիրառություններ. հարձակումների պլանավորումից մինչև պայթուցիկներ

Խումբն օգտագործում է AI-ն հարձակումների պլանավորման, ավելի հզոր պայթուցիկ սարքերի ստեղծման, զենքի սպասարկման և օպերատիվ անվտանգության համար: Հատկապես սարսափելի դեպքում, ISWAP խմբակցությունն օգտագործեց AI-ն՝ ֆիլմից մոտոցիկլետով ցատկի տեխնիկան վերարտադրելու համար՝ խրամատները հաղթահարելու նպատակով. 18 զինյալ մահացավ վարժանքի ժամանակ:

Անվտանգության զտիչների ձախողում. արդյունաբերության մասշտաբի խնդիր

Չնայած զրուցաբոտներն ավելի անվտանգ դարձնելու ջանքերին, անվտանգության զտիչները հետևողականորեն չկարողացան կանխել չարաշահումը: Anthropic-ը վերջերս ընդունեց, որ "անվտանգության շրջանցումները հավանաբար երբեք ամբողջությամբ չեն վերացվի:" Յուլիխը զգուշացնում է, որ "AI մոդելները կարող են վտանգավոր գիտելիքներն ավելի մատչելի դարձնել:"

Կարգավորման մարտահրավեր. կամավոր ինքնակարգավորում vs պարտադիր կարգավորում

Սա հրատապ հարց է բարձրացնում. արդյոք AI ընկերությունների կողմից կամավոր ինքնակարգավորումը բավարա՞ր է: Թե՞ պարտադիր կառավարական կարգավորում է անհրաժեշտ: Երբ ներկայիս միջոցները չեն կարողանում կանգնեցնել ահաբեկչական կազմակերպություններին այս գործիքների օգտագործումից, ավելի ուժեղ կարգավորման օգտին փաստարկն ուժեղանում է:

Հետևանքները Վրաստանի և AI բիզնեսի համար

Վրաստանի աճող AI և տեխնոլոգիական հատվածի համար այս պատմությունը պարունակում է կարևոր դասեր անվտանգության մասին: AI համակարգեր կառուցելիս անվտանգությունը պետք է լինի հիմնական սկզբունք: Ներդրեք ամուր պաշտպանական միջոցներ, շարունակաբար ստուգեք չարաշահման դեմ և տեղեկացրեք օգտատերերին պատասխանատվության մասին: