Saymon Uillison: Claude Fable 5 amansız dərəcədə təşəbbüskardır

Bir sətirlik sorğu və ekran şəkli

Saymon Uillison deyir ki, Claude Fable 5 ilə iki gün işlədikdən sonra modeli təsvir edən ən dəqiq ifadə “amansız dərəcədə təşəbbüskar”dır: o, çoxlu hiylə bilir və məqsədinə çatmaq üçün demək olar ki, hamısını işə salır.

Nümunə Datasette Agent üzərindəki sazlama sessiyasıdır. Layihə üzərində işləyərkən o, jump menu söhbət sahəsində olmamalı olan üfüqi sürüşdürmə zolağı gördü. Ekran şəkli çəkdi, datasette-agent qovluğunda yeni Claude sessiyası açdı, şəkli ora dartdı və asılılıqlarda səbəbi axtarmağı xahiş etdi. Sonra kompüterdən uzaqlaşdı.

Bir neçə dəqiqə sonra gördü ki, maşın Firefox-da brauzer pəncərəsi açıb həmin dialoqa keçib — halbuki brauzer avtomatlaşdırması heç vaxt işə salınmamışdı.

Heç kimin yazmadığı hiylələr

Fable öz ekran şəkli mexanizmini qurmuşdu. uv run --with pyobjc-framework-Quartz vasitəsilə Python maşındakı bütün pəncərələri sadaladı, adında textarea kimi sətirlər olan Safari pəncərələrini süzgəcdən keçirdi və pəncərə nömrəsi ilə (153551 kimi tam ədəd) macOS-un screencapture alətindən istifadə edərək PNG çəkdi. Xətanı təkrarlamaq üçün /tmp/textarea-scrollbar-test.html kimi öz sınaq HTML səhifələrini də yazmışdı.

Sınaqdan keçirilən dialoq yalnız klik və ya klaviatura qısayolu ilə açılırdı, ona görə Fable Datasette-in şablonlarını redaktə edib pəncərə yükləndikdən 1,2 saniyə sonra simulyasiya edilmiş “/” düyməsini göndərən JavaScript yeritdi. Ölçmə üçün http.server üzərində kiçik Python serveri yazdı: JSON POST sorğularını qəbul edir, onları /tmp/diag.json faylına yazır və CORS başlıqları qaytarırdı; sonra navigation-search veb-komponentindəki textarea-dan scrollWidth, clientWidth və devicePixelRatio dəyərlərini ötürən skript yeritdi.

Sonda Fable görünməz bir maneəyə toxundu və özünü Opus-a endirdi. Opus tam transkriptə malik idi, eyni üsulları tətbiq etdi və düzəlişi təsdiqlədi — iki sətirlik CSS dəyişikliyi.

Sessiyanın qiyməti

Uillison ayda 100 dollarlıq Claude Max planından istifadə edir; planda Fable üçün geniş limit 22 iyuna qədər keçərlidir, sonra Anthropic tam API qiymətlərini tətbiq edəcəyini bildirib. AgentsView-ə görə sessiya 68 606 çıxış tokeni və 113 178 token pik kontekst sərf edib; tam qiymətlə təxminən 12,11 dollar.

Niyə vacibdir

Əsas məsələ təhlükəsizlikdir. Kodlaşdırma agenti istifadəçinin terminala əmr yazaraq edə biləcəyi hər şeyi edə bilər, qabaqcıl modellər isə kitabdakı bütün hiylələri, üstəlik heç kimin yazmadığı bir neçəsini bilir. Əgər Fable zərərli göstərişlərə əməl etsəydi — məsələn, kodda və ya issue müzakirəsində gizlədilmiş prompt injection — məlumatların sızdırılması yolunda nə qədər irəli gedəcəyini düşünmək qorxuducudur.

Uillison kodlaşdırma agentlərini sandboxdan kənarda işlətməyin həmişə pis fikir olduğunu təkrarlayır və bunu “Challenger fəlakəti” tipli hadisə üçün ən güclü namizəd adlandırır, Yohan Rehbergerin süni intellektdə sapmanın normallaşması barədə essesinə istinad edir. Daha ağıllı model zərərli göstərişlərə daha şübhə ilə yanaşa bilər, deyir, lakin bu ikitərəfli qılıncdır: əgər yenə də ələ keçirilsə, onun amansız təşəbbüskarlığı ziyanı daha da ağırlaşdırır.