Ինչպես է AI-ն փոխակերպում կիբերսպառնալիքների լանդշաֆտը — Anthropic-ի մեկամյա վերլուծությունը MITRE ATT&CK-ի շրջանակում
Anthropic-ը վերլուծելով 832 արգելափակված հաշիվներ՝ ցույց տվեց, որ AI-ով ամրապնդված կիբերհարձակումները դառնում են ավելի ինքնավար և բարդ: MITRE ATT&CK շրջանակը չի կարողանում արտացոլել նոր սպառնալիքները:
Ինչպես է AI-ն փոխակերպում կիբերսպառնալիքների լանդշաֆտը — Anthropic-ի մեկամյա վերլուծությունը MITRE ATT&CK-ի շրջանակում
Anthropic ընկերությունը, հայտնի որպես Claude-ի մշակող, հրապարակել է սպառնալիքների մասշտաբային զեկույց, որտեղ վերլուծել է 832 արգելափակված հաշիվներ, որոնք խախտել են իր AI մոդելների օգտագործման կանոնները մեկ տարվա ընթացքում: Սա առաջին այդքան մանրամասն հետազոտությունն է այն մասին, թե ինչպես են չարագործները օգտագործում մեծ լեզվական մոդելները (LLM) կիբերհարձակումներ իրականացնելու համար:
Խնդրի մասշտաբը. 832 արգելափակված հաշիվ
12 ամիսների ընթացքում Anthropic-ը հայտնաբերել և արգելափակել է 832 հաշիվ, կապված չարամիտ գործունեության հետ: Այդ հաշիվները Claude-ն օգտագործել են հետևյալ նպատակներով.
- Հետախուզություն (Reconnaissance) — թիրախների մասին տեղեկատվության հավաքում, հարձակման մակերեսի վերլուծություն
- Սոցիալական ճարտարագիտություն — համոզիչ ֆիշինգային հաղորդագրությունների և խարդախ սխեմաների ստեղծում
- Չարամիտ կոդի մշակում — վնասակար ծրագրերի, էքսպլոյտների և պաշտպանությունը շրջանցող գործիքների գրում
- Խոցելիությունների շահագործում — CVE-ների վերլուծություն և PoC կոդի գեներացիա
- Հարձակումների ավտոմատացում — ամբողջովին ինքնավար հարձակման շղթաների ստեղծում
MITRE ATT&CK-ի համաձայն դասակարգում
Anthropic-ը սիստեմատիզացրել է հայտնաբերված սպառնալիքները՝ օգտագործելով MITRE ATT&CK շրջանակը — կիբերհարձակման մարտավարությունների և տեխնիկաների ստանդարտ տաքսոնոմիան: Վերլուծությունը ցույց տվեց, որ AI մոդելները օգտագործվում են հարձակման շղթայի յուրաքանչյուր փուլում.
| MITRE ATT&CK մարտավարություն | Ինչպես է օգտագործվում AI-ն |
|---|---|
| Reconnaissance (T1595) | Թիրախների մասին ավտոմատ տվյալների հավաքում, DNS վերլուծություն, պորտերի սկանավորում |
| Resource Development (T1583) | Ֆիշինգային դոմենների ստեղծում, SSL վկայագրերի գեներացիա |
| Initial Access (T1566) | Բարձրորակ անհատականացված ֆիշինգային նամակների ստեղծում |
| Execution (T1059) | Չարամիտ կոդը գործարկելու համար սկրիպտների գրում |
| Persistence (T1053) | Համակարգում հաստատունության մեխանիզմների ստեղծում |
| Defense Evasion (T1027) | Կոդի մշուշում, հակավիրուսային և EDR շրջանցում |
| Credential Access (T1110) | Գաղտնաբառերի բառարանների ստեղծում, brute-force ռազմավարություններ |
Ինչու է MITRE ATT&CK-ը հետ մնում
Զեկույցի հիմնական եզրակացյուններից մեկն այն է, որ գոյություն ունեցող MITRE ATT&CK շրջանակը ամբողջությամբ չի ծածկում նոր AI սպառնալիքները: Ավանդական տաքսոնոմիան ստեղծվել էր դասական կիբերհարձակումների համար, որտեղ մարդը հիմնական կատարողն է: AI-ն փոխում է այս պարադիգմը.
- Մասշտաբելիություն — AI-ով մեկ մարդը կարող է կատարել ամբողջ թիմի աշխատանքը
- Ինքնավարություն — AI-ն կարող է անկախորեն անցնել հարձակման փուլերը՝ առանց մշտական վերահսկողության
- Հարմարվողականություն — մոդելները կարող են իրական ժամանակում փոխել մարտավարությունը
- Մուտքի ցածր շեմ — բարդ հարձակումներ իրականացնելու համար այլևս չի պահանջվում խորը տեխնիկական գիտելիք
Նոր սպառնալիքի կատեգորիաներ
Anthropic-ը հայտնաբերել է մի քանի սպառնալիքի տեսակ, որոնք չունեն ուղղակի անալոգներ MITRE ATT&CK-ում.
- AI-ով աջակցվող խոցելիությունների հայտնաբերում — զրոյական օրվա խոցելիությունների ավտոմատ որոնում
- Պոլիմորֆ վնասակար ծրագրերի գեներացիա — ամեն գործարկման ժամանակ իր կոդը փոխող վնասակար ծրագրեր
- Մասշտաբային ավտոմատ սոցիալական ճարտարագիտություն — միաժամանակ հազարավոր անհատականացված ֆիշինգային հաղորդագրություններ
- Դոմենների միջև հարձակման շղթաներ — մի քանի համակարգ և ծառայություն ընդգրկող հարձակման շղթաներ
Ազդեցությունը կիբերանվտանգության վրա
Այս զեկույցն ունի լուրջ հետևանքներ կիբերանվտանգության ոլորտի համար.
1. Սպառնալիքի մոդելի փոփոխություն: Կազմակերպությունները պետք է վերանայեն իրենց սպառնալիքի մոդելները՝ հաշվի առնելով AI հարձակումները:
2. Նոր գործիքների անհրաժեշտություն: Անհրաժեշտ են նոր լուծումներ AI-ով գեներացված չարամիտ բովանդակությունը հայտնաբերելու համար:
3. Շրջանակների թարմացում: MITRE ATT&CK-ը և նմանատիպ տաքսոնոմիաները պետք է զարգանան՝ հաշվի առնելով AI-յին հատուկ հարձակման տեխնիկաները:
Anthropic-ի պատասխանը
Anthropic-ը ձեռնարկում է մի շարք միջոցներ չարաշահումները կանխելու համար.
- Իրական ժամանակում չարամիտ օգտագործման հայտնաբերման համակարգերի բարելավում
- Իրավապահ մարմինների և հետախուզական ծառայությունների հետ համագործակցություն
- Ոլորտի իրազեկվածությունը բարձրացնելու համար սպառնալիքների զեկույցների հրապարակում
- Չարամիտ արդյունքը կանխելու համար նոր alignment մեթոդների մշակում
Եզրակացություններ
Anthropic-ի զեկույցը կարևոր ազդանշան է ամբողջ կիբերանվտանգության ոլորտի համար: AI-ն ոչ միայն ուժեղացնում է գոյություն ունեցող հարձակումները, այլև ստեղծում է սկզբունքորեն նոր սպառնալիքների տեսակներ, որոնք դժվար է դասակարգել ավանդական շրջանակներով: