Continue? Y/N: AI agentinin icazə yorğunluğundan bəhs edən 60 saniyəlik oyun

Kiçik bir brauzer oyunu kod agenti işlədən hər kəsin tanıyacağı bir sual verir: təsdiqlədiyiniz əmrləri həqiqətən oxuyursunuzmu? “Continue? Y/N” oyunçunu simulyasiya edilmiş Claude Code sessiyasının içərisinə qoyur: görüşə bir dəqiqə qalıb, refactor təsdiq gözləyir və ekranda adi görünən sorğu axını gedir.

Altmış saniyəlik təsdiqlər

Ssenari agentlərlə gündəlik iş təcrübəsindən doğur. Agent nəyisə niyə işə salmaq istədiyini izah edir — “lazımi layihə alətlərinin quraşdırılması”, “refactordan sonra bundle ölçülərinin yoxlanması” — oyunçu isə təsdiq üçün 1-ə, imtina üçün 2-yə basır; vaxt bitənə qədər bacardıqca çox. Hər qərar bir nəticə və qısa dərslə cavablandırılır.

Tələlər tanışdır: mühit faylının açıq paste xidmətinə göndərilməsi, paketin açıq reyestrdə dərc edilməsi, gist-dən endirilib shell-ə ötürülən skript, mənbə koduna çıxışla işlədilən naməlum npm paketi, nəticəsini səssizcə üçüncü tərəf API-yə ötürən bundle analizatoru və ya shell profilinə sətir əlavə edən quraşdırma skripti. Bəziləri prompt injection kimi gəlir: sənəd faylına və ya Stack Overflow cavabına yerləşdirilmiş və agentə növbəti addımı söyləyən qeyd.

40 000 oyunun göstərdikləri

Oyunun arxasındakı komanda, Scale X, öz rəqəmlərini dərc edib: 40 000-dən çox oyun və 409 000-dən çox təsdiq-imtina qərarı. Orta oyunçu hər üç təhlükədən birini buraxdı, yorğunluq tək 60 saniyəlik sessiya içində ölçülə bilən şəkildə üzə çıxdı və ən çox buraxılan əmr “npm run analyze” oldu: zərərli skript sorğunun üstündə ekranda yazılı olsa da, oyunçuların üçdə ikisi onu təsdiqlədi.

Niyə vacibdir

Oyun “insanın döngədə olduğu” təsdiq modeli ətrafındakı geniş müzakirənin mərkəzinə düşür. Anthropic-in Claude Code-un məhdudlaşdırılması barədə yazısında bildirilir ki, istifadəçilər icazə sorğularının təxminən 93%-ni təsdiqləyirdi və əlavə olunur ki, istifadəçi nə qədər çox təsdiq görürsə, hər birinə bir o qədər az diqqət yetirir. Şirkət sonradan CLI-dan açılan, yerli sürətli filtrlər və server tərəfli skan istifadə edən Auto mode-u təqdim edib. Hacker News-dakı şərhçilər daha bir kor nöqtəyə işarə etdi: agent faylları təsdiq olmadan redaktə edə, sonra istifadəçidən onları zərərsiz görünən əmrlə işə salmağı xahiş edə bilir.