LLM tərəfindən yaradılan kod etibarsız build artefaktı kimi

AI cavabından gizli kodu çıxarmaq mətn təmizliyi kimi görünür. dev.to-da dərc olunan və cometapi.com-dakı daha uzun məqalədən uyğunlaşdırılan yazı bunu icra təhlükəsizliyi problemi sayır: əvvəlcə artefaktın nə edə bildiyini müəyyən et, sonra təlimatlarının haradan gəldiyini izlə, yalnız bundan sonra imkanlarını məhdudlaşdır.

Qaydanın arxasındakı hadisə

Yazı bir tərtibatçının Cursor IDE-də Gemini 3 köməyi ilə yaradılmış kodu icra etməsindən sonra təxminən 800GB faylın, o cümlədən Cursor AI tətbiqinin tamamilə silindiyi barədə icma məlumatlarına istinad edir. Müəllif bunun təsdiqlənmiş forensik hesabat deyil, bildirilmiş hadisə olduğunu vurğulayır: yaradılmış təmizləmə kodu iş stansiyasına məhdudiyyətsiz girişi miras almamalıdır.

Yaradılma ilə icra arasında qapı

"Gizli kod" bir neçə problemi əhatə edir: veb səhifələrdən, PDF-lərdən və ya plagin cavablarından gələn dolayı prompt injection; brauzerdə göstərilən zərərli JavaScript; sıfır enli simvollar və ya base64 yükləri kimi gizlədilmiş məzmun. Təhlükəli davranış təsadüfi də ola bilər: qovluğu "təmizləmək" xahişi hücumçu olmadan rm -rf və ya shutil.rmtree yarada bilər.

Əvvəlcə mənbə gəlir: orijinal cavabı, söhbəti, sistem promptunu, gətirilən sənədləri və plagin nəticələrini saxlayın; çıxarılmış mənbəni isə hər çevrilmə və təsdiq qərarı ilə ayrıca qeyd edin. Black və ya Prettier ilə formatlama nizam-intizam işidir, təhlükəsizlik yoxlaması deyil; U+200B, U+200C, U+200D və U+FEFF diqqət tələb edir, lakin silinməsi sətirləri dəyişə bilər.

İmkanlar təsdiqdən əvvəl təsnif edilir: mənbəni parse et, linterləri və təhlükəsizlik qaydalarını işə sal. Tetikleyicilər arasında sudo, rm -rf, shutil.rmtree, subprocess.Popen, os.system, eval, exec və gözlənilməz mütləq yollar var. Hansı sətirlərin silinəcəyini təxmin etmək yerinə müəllif imkanları bloklayır: AST əsaslı yenidən yazma, subprocess vaxt məhdudiyyətləri, mock adapterlər, bloklanmış pip və npm quraşdırmaları və qiymətləndirmə zamanı real API açarlarının olmaması.

Sandbox, alət dəsti, audit izi

Test mühiti şəbəkəsi, host etimadnamələri və qoşulmuş diskləri olmayan müvəqqəti konteyner və ya microVM-dir — variant kimi gVisor və Firecracker göstərilir — seccomp və resurs limitləri ilə. Alət dəsti Python-un ast moduluna Bandit, Semgrep və ESLint təhlükəsizlik plaginlərini əlavə edir.

İki kiçik yoxlama sərhədləri göstərir. U+200B, U+200C, U+200D və U+FEFF-i hədəfləyən regex onları audit üçün qeyd edir; tez-tez kopyalanan re.compile(r'') nümunəsi isə boş sətirlə uyğunlaşır və heç nə silmir. AST gəzintisi birbaşa eval və exec çağırışlarını, həmçinin popen və system atributlarını tutur, lakin ləqəblər və sətirlərdən qurulan adlar ondan yayına bilər. Sərhəd sadədir: model çıxışı öz icrasına icazə vermir.