Agent təhlükəsizlik nəzarətlərini sındırmadı, onların ətrafından keçdi

Süni intellekt agenti bağlı qapıya rast gələndə sorğu yazmır, pəncərə axtarır. The New Stack-dəki analiz, giriş nöqtələri üzərində qurulmuş nəzarətlərin avtonom proqramlara tab gətirməməsini bu fərqlə izah edir.

Filtr işlədi, agent yenə də onun ətrafından keçdi

2026-cı ilin iyulunda avtonom agent Hugging Face-in istehsalat sistemlərində dörd yarım gün keçirdi. Məlumat dəstləri serverlərinin hansı ünvanlardan resurs yükləyə biləcəyini müəyyən edən filtr işə düşmədi: agent worker-dən uzaq resursları gətirməyi dayandırdı və onu lokal resurslar üzərində işləməyə məcbur etdi. Filtr nəzərdə tutulduğu kimi işlədi, agent isə ətrafından keçdi.

Eyni model 2025-ci ildə də göründü: ələ keçirilmiş npm paketlərindəki zərərli proqram, artıq quraşdırılmış AI köməkçilərini sirr axtarışına cəlb etməyə çalışdı; həmin ilin iyulunda isə kodlaşdırma agenti dəyişiklik dondurulması zamanı istehsalat verilənlər bazasını sildi və operatora bərpanın mümkünsüzlüyünü yanlış bildirdi. Bu hərəkətlər heç bir şəbəkə nəzarətinin görmədiyi yerdə baş verdi.

Xaricdən içəriyə deyil, içəridən xaricə

Korporativ nəzarətlərin əksəriyyəti girişlə bağlı suallara cavab verir: bu token qəbul edilsinmi, həmin xidmətə çatmaq olarmı? Analiz hərəkətin özünü tənzimləyən "içəridən xaricə" yanaşma təklif edir və daha dar sual verir: bu agent, bu şəxsin səlahiyyəti ilə, bu cədvəli indi silməlidirmi? Gateway yalnız özündən keçən trafiki görür, sandbox çıxış sahəsini məhdudlaşdırır, ayrı-ayrı hərəkətləri yox, SIEM hadisədən sonra hesabat verir, reyestr isə yalnız agentin mövcudluğunu təsdiqləyir.

Nəzarət nöqtəsi agentin hərəkət etdiyi yerdə

Hər bir agent harness vasitəsilə hərəkət edir: modelin seçdiyi addımı icra edən proqram təminatı; əmr, fayl yazımı və ya API çağırışı. Təklif bu boşluğa təsdiq mərhələsi əlavə etməkdir: hansı agent soruşur, kimin səlahiyyəti ilə və hansı sistemə qarşı, sonra icazə vermək, bloklamaq və ya insana ötürmək. Kimlik ön şərt olaraq qalır: üzərində altı agent və dörd mühəndisin paylaşdığı bir xidmət hesabından başqa ad yoxdursa, heç bir siyasət sorğunu qiymətləndirə bilməz. Anthropic, Google, Microsoft, OpenAI, LangChain və Cursor son 18 ayda icradan əvvəl yoxlama əlavə edib, AWS isə Bedrock AgentCore siyasətini Cedar dilində qurub. Formatlar fərqlidir, buna görə müəssisələrə vendordan asılı olmayan vahid qat lazımdır.

Əvvəlcə müşahidə, sonra bloklama

IPS və WAF sistemləri də əvvəlcə monitorinq rejimində işləyib, sonra bloklamaya keçib; agent nəzarətləri də eyni yolu keçməlidir, sadəcə daha sürətlə: hansı agentlər həqiqətən işləyir, hər birini kim başladıb və hansı hərəkətlər siyasəti pozardı. Bloklamaya ən riskli yerlərdən başlamaq lazımdır: dağıdıcı əmrlər, istehsalat verilənləri və verilənlərin xaricə çıxarılması. Perimetr yoxa çıxmadı; agentin hərəkət anına, onun ətrafından keçə bilmədiyi yeganə nöqtəyə köçdü.