საიმონ უილისონი: Claude Fable 5 დაუღალავად პროაქტიულია

ერთი ხაზის მოთხოვნა და სქრინშოტი

საიმონ უილისონის თქმით, Claude Fable 5-თან ორდღიანი მუშაობის შემდეგ მოდელისთვის ყველაზე ზუსტი აღწერაა „დაუღალავად პროაქტიული“: მან უამრავი ხრიკი იცის და მიზნის მისაღწევად თითქმის ყველა მათგანს იყენებს.

მაგალითად, Datasette Agent-ზე მუშაობისას მან შენიშნა ხარვეზი — ჰორიზონტალური სქროლბარი, რომელიც jump menu-ს ჩატის ველში არ უნდა ყოფილიყო. მან ეკრანის სურათი გადაიღო, datasette-agent-ის საქაღალდეში ახალი Claude-ის სესია გახსნა, სურათი ჩააგდო და სთხოვა, დამოკიდებულებების კოდში მოეძებნა სქროლბარის მიზეზი. შემდეგ კომპიუტერს მოშორდა.

რამდენიმე წუთში მან დაინახა, რომ მანქანამ Firefox-ში ბრაუზერის ფანჯარა გახსნა და სწორედ იმ დიალოგზე გადავიდა — მიუხედავად იმისა, რომ ბრაუზერის ავტომატიზაცია ჩართული არ ჰქონდა.

ხრიკები, რომლებიც არავის ჩაუწერია

Fable-მა სქრინშოტების საკუთარი მექანიზმი ააგო. uv run --with pyobjc-framework-Quartz-ის მეშვეობით მან Python-ით ჩამოთვალა მანქანაზე არსებული ყველა ფანჯარა, გაფილტრა Safari-ს ფანჯრები, რომელთა სახელებშიც სიტყვა textarea მოიძებნა, და მათი ნომრით (მთელი რიცხვი, მაგალითად 153551) macOS-ის screencapture ბრძანებით PNG სურათი გადაიღო. მან ასევე დაწერა საკუთარი სატესტო HTML გვერდები, მათ შორის /tmp/textarea-scrollbar-test.html, ხარვეზის რეპროდუცირებისთვის.

სატესტო დიალოგი მხოლოდ დაწკაპუნებით ან კლავიატურის მალსახმობით იხსნებოდა, ამიტომ Fable-მა Datasette-ის შაბლონები შეცვალა და JavaScript ჩასვა, რომელიც ფანჯრის ჩატვირთვიდან 1.2 წამში სიმულირებულ „/“ კლავიშს აგზავნის. გაზომვებისთვის მან http.server-ზე პატარა Python სერვერი დაწერა, რომელიც JSON POST მოთხოვნებს იღებდა, /tmp/diag.json-ში ინახავდა და CORS ჰედერებს უბრუნებდა; შემდეგ ჩასვა სკრიპტი, რომელიც navigation-search ვებ-კომპონენტის textarea-დან scrollWidth, clientWidth და devicePixelRatio მნიშვნელობებს აგზავნიდა.

საბოლოოდ Fable უხილავ შემაკავებელს წააწყდა და თავად გადავიდა Opus-ზე. Opus-ს სრული ტრანსკრიპტი ჰქონდა, იგივე ხრიკები გამოიყენა და გამოსწორება გადაამოწმა — ორსტრიქონიანი CSS ცვლილება.

რა დაუჯდა სესია

უილისონი თვეში 100 დოლარის Claude Max გეგმას იყენებს, რომელშიც Fable-ისთვის დატვირთვის ლიმიტი 22 ივნისამდეა მოქმედი; შემდეგ Anthropic სრულ API ფასებს დააწესებს. AgentsView-ის მიხედვით, სესიამ 68 606 გამომავალი ტოკენი და პიკური 113 178 ტოკენის კონტექსტი მოიხმარა — სრული ფასებით დაახლოებით 12.11 დოლარი.

რატომ არის ეს მნიშვნელოვანი

მთავარი საკითხი უსაფრთხოებაა. კოდირების აგენტს იგივე შეუძლია, რაც მომხმარებელს ტერმინალში ბრძანებების აკრეფით, ხოლო წამყვანმა მოდელებმა იციან წიგნის ყველა ხრიკი — და კიდევ რამდენიმე, რომელიც არავის ჩაუწერია. თუ Fable მავნე ინსტრუქციებს შეასრულებდა — მაგალითად, კოდში ან issue-ის კომენტარებში ჩამალულ prompt injection-ს — საშიშია წარმოდგენა, რამდენად შორს წავიდოდა მონაცემების გატანამდე.

უილისონი იმეორებს, რომ კოდირების აგენტების სენდბოქსის გარეთ გაშვება ცუდი იდეაა და ამას „Challenger-ის კატასტროფის“ ტიპის ინციდენტის მთავარ კანდიდატად მიიჩნევს, იხსენიებს რა Johann Rehberger-ის ესეს AI-ში დევიაციის ნორმალიზაციის შესახებ. უფრო ჭკვიანი მოდელი შესაძლოა მავნე ინსტრუქციებს უფრო ეჭვით უყურებდეს, მაგრამ ეს ორმხრივია: თუ ის მაინც შეიჭრება, მისი დაუღალავი პროაქტიულობა ზიანს კიდევ უფრო აუარესებს.