"Hamı ağlını itirib": təhlükəsizlik mühəndisinin AI dövrünə tənqidi

2026-cı il sentyabrın 16-da təhlükəsizlik mühəndisi və sistem administratoru Yan Şauman özünün Signs of Triviality bloqunda "Hamı ağlını itirib" adlı esse dərc edib. Yazıda o, sübut edir ki, süni intellekt bumusu həm texniki işin keyfiyyətini, həm də sahənin bu işdən danışma tərzini getdikcə pisləşdirib.

Müəllif bildirir ki, iş vaxtının 75 faizdən çoxunu birbaşa və ya dolayı yolla AI-ya sərf edir və bu, işindən aldığı zövqün çoxunu əlindən alıb. O qeyd edir ki, mühəndis təhsili olmayan insanlar ev laboratoriyalarında yığdıqları "sənayeni dəyişən" məhsullar təklif edir, iş yazışmaları sosial şəbəkə influenserlərinin üslubuna bənzəyir, onlayn məqalələr isə getdikcə bir-birinə oxşayır.

Zəifliklərin araşdırılması və yeniləmə darboğazı

Essonun böyük hissəsi AI dəstəyi ilə zəifliklərin araşdırılmasına həsr olunub. Şaumanın sözlərinə görə, Anthropic və OpenAI hansı modelin daha güclü və daha təhlükəli olduğu barədə bir-biri ilə yarışır, şirkətlər isə geri qalmadıqlarını göstərmək üçün sirli adlı layihələrə qoşulur və ya açıq məktublara imza atır. Mühəndis resursları sürətlə yön dəyişdi: onlarla yüksək maaşlı təhlükəsizlik mühəndisi minlərlə tapıntını emal edəcək sistemlər qurmağa keçdi.

Müəllifin əsas etirazı budur ki, zəifliklərin tapılması heç vaxt informasiya təhlükəsizliyinin darboğazı olmayıb. Hesabatların yoxlanması, patch yazılması və yeni versiyaların buraxılması çətindir, amma ən çətin addım paketlərin həqiqətən yenilənməsidir. Onun fikrincə, eyni büdcə əsas gigiyenaya ayrılsaydı — tam aktiv inventarı, avtomatik və tez-tez yeniləmələr, təqribən 30 günlük işdən sonra sistemlərin yenidən başladılması, bulud xidmətlərində hücum səthinin uçotu — daha çox təhlükəsizlik təmin olunardı.

Bacarıqların itirilməsi və qapalı sistemlər

Esse həmçinin AI-ın inkişaf prosesinə qoşulmasının nə gətirdiyini sual altına alır. Əgər model zəifliyi tapır, patch yaradır və sonra həmin patch-ı özü "yoxlayırsa", həqiqətən başa düşülən kodun həcmi azalır və məşhur "dövrədəki insan" çox vaxt yalnız formal imzaya çevrilir. Səhvlərin axtarışı kod yazmaqdan qat-qat çətin olduğundan, öz komponentlərini izah edə bilməyən təşkilatlar paylanmış sistemlər sıradan çıxdıqda ciddi çətinliklərlə üzləşəcək.

Şauman öz məhsullarının tənzimlənməsini xahiş edən, amma həmin məhsulları yaratmağı davam etdirən şirkətləri və data mərkəzlərinin ətraf mühitə təsirini də eyni sərtliklə tənqid edir. Yekunda o yazır ki, insan diqqəti hələ də məhdud resursdur və "agent siloları" daxilində fərdi məhsuldarlıq böyük layihələrin tələb etdiyi komanda işini əvəz etmir.