Continue? Y/N. 60 վայրկյանանոց խաղ AI ագենտի թույլտվությունների հոգնածության մասին

Փոքր դիտարկիչային խաղը տալիս է մի հարց, որը ճանաչում է ցանկացած ոք, ով կոդ գրող ագենտ է աշխատեցրել. իսկապե՞ս կարդում եք այն հրամանները, որ հաստատում եք։ «Continue? Y/N»-ը խաղացողին դնում է սիմուլյացված Claude Code-ի սեսիայի ներսում. հանդիպումից մեկ րոպե է մնացել, refactor-ը հաստատման է սպասում, իսկ էկրանով սովորական թվացող հարցումների հոսք է անցնում։

Վաթսուն վայրկյան հաստատումներ

Գաղափարը բխում է ագենտների հետ ամենօրյա աշխատանքից։ Ագենտը բացատրում է, թե ինչու է ուզում ինչ-որ բան գործարկել՝ «անհրաժեշտ գործիքների տեղադրում», «refactor-ից հետո bundle-ի չափերի ստուգում», իսկ խաղացողը սեղմում է 1՝ հաստատելու կամ 2՝ մերժելու համար, այնքան անգամ, որքան կհասցնի մինչև ժամանակի սպառումը։ Յուրաքանչյուր որոշում ստանում է հետևանք և կարճ դաս։

Թակարդները ծանոթ են. միջավայրի ֆայլ, ուղարկված հանրային paste ծառայության, փաթեթ, հրապարակված հանրային ռեեստրում, gist-ից ներբեռնված և shell-ին փոխանցված սկրիպտ, անհայտ npm փաթեթ՝ գործարկված կոդին հասանելիությամբ, bundle-ի անալիզատոր, որը լուռ ուղարկում է արդյունքը երրորդ կողմի API-ին, կամ setup սկրիպտ, որը տող է ավելացնում shell-ի պրոֆիլում։ Մի մասը գալիս է որպես prompt injection՝ փաստաթղթի ֆայլում կամ Stack Overflow-ի պատասխանում թաքցված հրահանգ, որը ագենտին ասում է՝ ինչ անել հաջորդիվ։

Ինչ ցույց տվեցին 40 000 խաղերը

Խաղի հեղինակները՝ Scale X-ը, հրապարակել են իրենց թվերը. 40 000-ից ավելի խաղ և 409 000-ից ավելի հաստատել-մերժել որոշումներ։ Միջին խաղացողը բաց է թողել երեք սպառնալիքից մեկը, հոգնածությունը չափելիորեն ի հայտ է եկել մեկ 60 վայրկյանանոց սեսիայի ընթացքում, իսկ ամենահաճախ բաց թողնված հրամանը «npm run analyze»-ն էր. այն հաստատել է խաղացողների երկու երրորդը, չնայած չարամիտ սկրիպտը տպված էր էկրանին՝ հարցումից վերև։

Ինչու է դա կարևոր

Խաղը հայտնվում է «մարդը շղթայում» (human-in-the-loop) մոդելի շուրջ լայն բանավեճի կենտրոնում։ Anthropic-ի՝ Claude Code-ի զսպման մասին նյութում նշված է, որ օգտատերերը հաստատում էին թույլտվության հարցումների մոտ 93%-ը, և ավելացված է, որ որքան շատ հարցումներ է տեսնում օգտատերը, այնքան քիչ ուշադրություն է դարձնում յուրաքանչյուրին։ Ընկերությունը հետագայում թողարկել է Auto mode, որը միանում է CLI-ից և օգտագործում տեղական արագ զտիչներ ու սերվերային սկանավորում։ Hacker News-ի մեկնաբանները մատնանշել են ևս մեկ կույր կետ. ագենտը կարող է խմբագրել ֆայլեր առանց հաստատման, ապա խնդրել օգտատիրոջը գործարկել դրանք անմեղ թվացող հրամանով։