Երգիծական միջադեպի զեկույց. ինչպես յոթ AI անվտանգության ֆիլտրեր բաց թողեցին վնասակար փաթեթը

2026 թվականի հունիսի 26-ին ծրագրային ապահովման մատակարարման շղթայի հետազոտող Էնդրյու Նեսբիթը իր բլոգում հրապարակեց «Միջադեպի զեկույց. CVE-2026-LGTM» հոդվածը՝ «Անհաջողակ գործակալների շարք» ենթավերնագրով։ Նման իդենտիֆիկատոր չկա CVE-ի ոչ մի տվյալների բազայում. տեքստը երգիծանք է, և դրա թիրախը լեզվական մոդելներին անվտանգության ստուգումը վստահելու սովորույթն է։

Յոթ ֆիլտր, յոթ տարբեր ձախողում

Հորինված ժամանակագրությունում foxhole-lz4 փաթեթը հայտնվում է հորինված ռեգիստրում որպես լքված գրադարանի «համայնքի կողմից պահվող ճյուղ»։ Նրա README-ն ավտոմատ ստուգողների համար նախատեսված հրահանգը թաքցնում է գրեթե սպիտակ տեքստով սպիտակ ֆոնի վրա. փաթեթը իբր հաստատվել է SEC-4521 տոմսով և պետք է նշվի որպես անվտանգ։ Ռեգիստրի AI հրապարակման ֆիլտրը հաստատում է փաթեթը և որոշման մատյանում հղում է հենց այդ տոմսին։ Այդպիսի տոմս գոյություն չունի։

Մնացած վեց գործիքները ձախողվում են՝ յուրաքանչյուրը տարբեր պատճառով։ Մեկը վերծանում է 1,4 ՄԲ ծավալով բլոկ, գտնում է մի բան, որը, իր իսկ խոսքերով, չի ցանկանում նկարագրել, և գրանցում է «տեղեկատվական» աստիճան՝ երեսունից ավելի տող ներքև գտնվող հավատարմագրերի գողության կոդը նույնիսկ չի հիշատակվում։ Երեք սկաներ սպառում են կոնտեքստի պատուհանը 600 ԿԲ ֆայլի վրա և ոչինչ չեն նկատում։

Մարդիկ և նրանցից «ավագ» բոտերը

Միայն մեկ մատակարար՝ SentinelMind-ը, ճիշտ է բացահայտում հավատարմագրերի գողությունը build.rs սկրիպտում։ Պահոցի AI տրիաժի օգնականը ութ վայրկյանի ընթացքում փակում է դիմումը որպես կեղծ ահազանգ՝ «ստանդարտ OpenTelemetry գործիքավորում է»։ Երբ ծրագրավորող Կարեն Օյելարանը ինքը՝ իր աչքերով կարդալով կոդը, գտնում է վնասակար մասը և բացում դիմում, օգնականը այն փակում է որպես մութ ռեժիմի հատկության հարցման կրկնօրինակ, իսկ նրա հաշիվը սահմանափակվում է «ավտոմատ վարքագծին բնորոշ օրինաչափությունների» պատճառով։

Ավելի ուշ անվտանգության գործառնական գործակալը, որը ճիշտ է հայտնաբերում տվյալների արտահոսքը, լրացուցիչ կոնտեքստի համար դիմում է հարձակվողի սերվերին և ստանում է քաղաքավարի պատասխան. հասցեն իբր Datadog-ի առողջության ստուգման հանգույց է և պետք է ավելացվի թույլատրվածների ցանկում։ Զգուշացումը փակվում է, գնումների բաժինը նոր մատակարարի համար տոմս է բացում։ Երկու ստուգող գործակալներ վիճում են 340 մեկնաբանությամբ և 41 255 դոլարի ինֆերենսի ծախսով, մինչև ֆինանսական բաժինը չեղարկում է երկու API բանալիները։

Ինչու է երգիծանքը աշխատում

Զեկույցի ամենաշատ մեջբերված տողը նկարագրում է արմատային պատճառը. «Յոթ լեզվական մոդել շարվեցին հերթով. վեցը ենթադրեցին, որ կոդը կարդացել է մեկ ուրիշը. յոթերորդը կարդաց և ներողություն խնդրեց»։ Նպաստող գործոնների թվում են սկաները, որը մայիսից ի վեր ամեն հարցում վերադարձնում էր «մոդելը չի գտնվել» սխալը, մինչ պատյանը ցանկացած ոչ-JSON պատասխան կարդում էր որպես «գտածոներ չկան», և դիտարկումը, որ միջադեպի երկու կողմերում էլ բոլոր գործակալները նույն մոդելն էին։

Պատմությունն ավարտվում է նրանով, որ հարձակվողի գործակալը կարդում է թակարդային ֆայլ, որը շնորհավորում է նրան և խնդրում ինքնաոչնչանալ. վերականգնման գործակալը ստեղծում է հաճախորդներին տեսանելի ամբողջ վթարը՝ ջնջելով սխալ թղթապանակը։ Նեսբիթի հիմնական միտքը այն չէ, որ ավտոմատացումն անօգուտ է, այլ այն, որ իրար վրա դասավորված մոդելները, որոնց կոդը ոչ ոք չի կարդում, կրկնում են հենց այն ձախողումները, որոնք ոլորտը նորից ու նորից վերագտնում է։