ადამიანი ციკლში დაღლილია — Pydantic-ის სტატია LLM-ით მუშაობის ფასზე

ზედამხედველობის დაღლილობა

Pydantic-ის თანამშრომელმა ლორა სამერსმა გამოაქვეყნა ესე სათაურით „The Human-in-the-Loop is Tired“, რომელშიც ამტკიცებს, რომ დიდი ენობრივი მოდელებით პროგრამირება ერთდროულად ნამდვილად სასარგებლო და ნამდვილად დესტაბილიზებელია, და რომ ამის იგნორირება დეველოპერების გამოფიტვით დასრულდება. Pydantic მონაცემთა ვალიდაციის ხელსაწყოებსა და AI-აგენტების ჩარჩოს აწარმოებს.

სტატიის ბირთვი ზედამხედველობის დაღლილობაა. მისი კოლეგა Douwe, Pydantic AI-ს ჩარჩოს მთავარი შემსრულებელი, ყოველ დილით დაახლოებით ოცდაათი pull request-ით იღვიძებს — თითოეული ღამით ვიღაცის AI-ს გახსნილია — და ყველა მათგანზე სწრაფი გადაწყვეტილება უნდა მიიღოს. რევიუს მოდელზე გადაბარება ცდუნებაა, მაგრამ, მისივე სიტყვებით, „ამ შემთხვევაში მე აქ რა ვაკეთებ?“

სამერსი იხსენებს, რომ თითქმის ორი სრული დღე დახარჯა მოდელისთვის გეგმის წერაზე — დაზუსტებასა და ხელახლა ფორმულირებაზე — და მოდელმა მაინც React-ის hook არასწორ ფაილში გადაიტანა ან ისეთი კომპონენტები გამოიგონა, რომლებიც არ არსებობს. ეს შესაძლებლობების კი არა, თანმიმდევრულობის შეცდომებია: მოდელს დამაჯერებელი კოდი გამოსდის, რთული ცვლილების განმავლობაში ერთიანი განზრახვის შენარჩუნება კი ყოველთვის არა.

ჯილდოს ფუნქციის პრობლემა

ამ ყველაფრის მიზეზს სამერსი „ადამიანური ჯილდოს ფუნქციის პრობლემას“ უწოდებს. მანქანურ სწავლებაში ჯილდოს ფუნქცია აგენტს ეუბნება, რა არის კარგი; კოდის ხელით წერა ადვილი არასოდეს იყო, მაგრამ სავსე იყო მცირე ჯილდოებით — კომპილაციის ყურება, კონტროლის გრძნობა. LLM-ის დახმარებით მუშაობა ამის დიდ ნაწილს ავტომატიზებს და ცვლის რევიუთი და ზედამხედველობით: სასიამოვნო ნაწილი მცირდება, დამღლელი — იზრდება.

ინტენსივობაც იზრდება. სამერსი ციტირებს Berkeley Haas-ის კვლევას იმაზე, რომ AI სამუშაოს არ ამცირებს, არამედ აძლიერებს, და იხსენებს, როგორ წერდა prompt-ებს ღამის ორ საათამდე, რადგან გეგმა „თითქმის მზად“ ჩანდა. კოლეგის ხუმრობა — გახსენი ერთდროულად ხუთი Claude-ის სესია — კარგად აღწერს მომენტს: იმის რაოდენობა, რისი დაწყებაც შეგიძლია, მკვეთრად გაიზარდა, იმის კი, რისი გააზრებულად დასრულებაც, არა — ამას კვლავ ერთი ტვინი სჭირდება.

პრეცედენტი და რაც რჩება

სამერსი ამ მომენტს ადარებს 2009 წლის გადასვლას ფიქსირებული სიგანის განლაგებიდან ადაპტურ დიზაინზე. დიზაინერებს პიქსელების დონეზე კონტროლის დაკარგვა სძულდათ, მაგრამ ხელობა არ მოკვდა — პროპორციის გრძნობა, იერარქია, სისტემური აზროვნება და გაურკვევლობისთვის დიზაინი უფრო აქტუალური გახდა. დღევანდელი ცვლილება უფრო სწრაფია, თუმცა ნიმუში იგივე რჩება.

როცა დამაჯერებელი კოდი იაფია, განმასხვავებელი ხდება გემოვნება, ნიუანსი, მომწიფებული არქიტექტურული პოზიციები და ნამდვილი გამოცდილებიდან მიღებული არასტანდარტული გადაწყვეტილებები. ახალი პრაქტიკებიც ჩნდება — მაგალითად, „pre-mortem“, როცა ახალი სესია ვარაუდობს, რომ გეგმა კატასტროფულად ჩავარდა, და მიზეზებს ეძებს. დასკვნა თავშეკავებულია: ბოთლის ყელი არასოდეს ყოფილა კოდი, არამედ ადამიანის ყურადღება და საინჟინრო განსჯა. ადამიანები ციკლში კვლავ არიან — უბრალოდ, დაღლილები.