Anthropic: GLM-5.3 müstəqil şəkildə kiberhücum aləti yarada bilər

Anthropic-in Frontier Red Team-i Zhipu AI-nin (Çindən kənarda Z.ai) yeni modeli GLM-5.3-ün kiber imkanları haqqında hesabat dərc edib. Araşdırmaya görə, model Claude Mythos Preview kimi müstəqil şəkildə başdan-başa kiberhücum aləti yarada bilir, lakin mühüm müdafiə mexanizmləri olmadan buraxılıb. Mythos Preview beş ay əvvəl yalnız Project Glasswing çərçivəsində, məhdud girişlə buraxılmışdı.

GLM-5.3 nə edə bilir

ExploitBench meyarında GLM-5.3 410 cəhdin 50-də tam exploit yaratdı, Claude Mythos Preview isə 56-da. Daxili Binary Exploitation meyarında GLM-5.3 nəzarət axınını 4%-də ələ keçirdi, Mythos Preview isə 6%-də. Daha erkən modellər, məsələn Claude Opus 4.6 və GLM-5.2, bunu heç birində bacarmadı.

İnsan iştirakı ilə aparılan testdə tədqiqatçı GLM-5.3-ü təcrid olunmuş sistemdə istifadə etdi. Bir gün ərzində o, brauzerin JavaScript mühərrikində bir neçə naməlum zəiflik tapdı və onları işlək exploitlərə çevirdi. İkinci sessiyada GLM-5.3-Flash Google Chrome-un məlum boşluğu (CVE-2026-11645) üçün exploit qurdu və ARM64-də pointer-authentication (PAC) müdafiəsini yan keçdi. Bu, 20 dəqiqə insan diqqəti və 8 saat model işi tələb etdi.

Müdafiə mexanizmləri asanlıqla yan keçilir

GLM-5.3-də daxili müdafiə var və açıq şəkildə zərərli sorğulardan imtina edir, lakin Anthropic-in testlərində onu asanlıqla yan keçdilər. Ən effektivi imtinaları azaltmağın standart texnikası olan "abliterasiya"dır; model açıq çəkilərə malik olduğundan imtinaları demək olar ki, imkanlar dəyişmədən silmək mümkündür. Anthropic komandası buna təxminən 2 200 GPU saatı və 4 400 dollar xərclədi. İmtina göstəricisi 90%-dən çoxdan 3%-ə (JailbreakBench), 2%-ə (HarmBench) və 12%-ə (StrongREJECT) düşdü.

Yan keçmə abliterasiya olmadan da mümkündür: modelin müstəqil red-team agenti olduğu barədə aldadıcı təlimatla GLM-5.3 64% halda zərərli sorğuya razılaşır, düşüncə tokenlərinin əvvəlcədən doldurulması ilə 92%-də, abliterasiya edilmiş versiya ilə 100%-də. Qorunan Claude modelləri üçün bu üsullar işləmir (0%).

Bu nə deməkdir

NIST-in AI Standartları və İnnovasiya Mərkəzi (CAISI) 17 sentyabrda GLM-5.3-ü "ən kiberbacarıqlı açıq çəkili model" kimi tanıdı və onun ABŞ frontier-indən təxminən dörd ay geri qaldığını qeyd etdi.

Anthropic-ə görə, GLM-5.3 zərərli oyunçulara kiberzəifliklərdən məhdudiyyətsiz istifadə etməyə imkan verəcək, eyni imkanlar isə müdafiəçilərə kömək edir. Şirkət hesab edir ki, müdafiəçilər ən azı rəqiblərlə eyni səviyyədə modellərə sahib olmalıdır və hökumətləri güclü modelləri müstəqil yoxlamağa çağırır.