პროგრამული ინჟინერიის საფუძვლები ახლა უფრო მნიშვნელოვანია, ვიდრე ოდესმე

დეველოპერმა და ავტორმა ჯოზეფ ჰეკმა (heckj) 15 აგვისტოს თავის ბლოგზე, Rhonabwy-ზე, გამოაქვეყნა ტექსტი, რომლის მთავარი აზრია: რაც AI-აგენტების ხელსაწყოები (harness) მუშა კოდის დაწერას აადვილებს, პროგრამული ინჟინერიის საფუძვლები — უპირველესად ის, თუ როგორ არის სისტემა ერთმანეთთან შეერთებული — უფრო მნიშვნელოვანი ხდება, ვიდრე ოდესმე.

„შეიძლება თუ არა“ — რუბიკონის გადალახვა

ჰეკის შეფასებით, ბოლო ერთ წელიწადში აგენტური harness-ები სწორედ ამ ზღვარს გადასცდნენ. ყველაზე შთამბეჭდავ საქმეს, მისი დაკვირვებით, ისინი აკეთებენ, ვინც ხმამაღლა არ საუბრობს.

ეკონომიკის მხრივ ის უფრო სკეპტიკურია: ყველა ნანახი ანგარიშის მიხედვით, დიდი მოდელების ბიზნეს-მოდელი სიცოცხლისუნარიანი არ არის, თუმცა შესაძლებლობები არსად ქრება — პირიქით, სწრაფად მცირდება. ღია წონის მოდელები უკვე მძლავრ პერსონალურ კომპიუტერს იმავე საქმის გამკეთებელ მანქანად აქცევენ, თუმცა ცოტა უარესი შედეგით.

„მუშაობს“ — ეს მხოლოდ დასაწყისია

ჰეკი ამას საკუთარ გამოცდილებას ადარებს: ოცი წლის ასაკში, როცა შედუღებას სწავლობდა, სწრაფად შექმნა ნივთები, რომელთა აწევაც ან სახელოსნოს კარიდან გატანაც არ შეეძლო. გაკვეთილი იგივეა სხვა სფეროშიც — ყველაფერს ის წყვეტს, თუ როგორ არის ნაწილები ერთმანეთთან მოწყობილი. გარკვეული წინდახედულობით აგენტური harness-ების დახმარებით შეიძლება მივიღოთ არა მხოლოდ „მუშა“, არამედ „ტესტირებადი“ კოდიც — თავად ხშირად იყენებს პრომპტს „develop with red/green TDD“ — მაგრამ ამ დონის ზემოთ ცოტას თუ მიაღწევს. ნაკერები — როგორ მუშაობს კოდი, რა არის მისი API და როგორ ჯდება ის სხვა პროგრამებთან — ისეთივე ხელოვნებაა, როგორც მეცნიერება, და დამოკიდებულია გამოცდილებაზე, შეხედულებებზე და ვარაუდებზე იმაზე, თუ როგორ იცხოვრებს ეს პროგრამა წლების განმავლობაში.

სად ჩამორჩებიან მოდელები

პროგრამის გამართვადი (debuggable), მხარდაჭერადი, ფენებადი და კომპონირებადი გახდომა კვლავ რთული ამოცანაა; მისი დიდი ნაწილი მოითხოვს ხანგრძლივ, გააზრებულ მსჯელობას — და სწორედ აქ ჩამორჩებიან დღევანდელი მოდელები. ჰეკის სიტყვებით, LLM-ები არ „მსჯელობენ“ — ისინი წინასწარმეტყველებენ; მოდელები არსებითად ადამიანის ცოდნის შეკუმშული სახეა და ჩადებული მსჯელობის გამეორება მსჯელობას არ ნიშნავს. ის იხსენებს კვლევას „The Illusion of Thinking“ და მიუთითებს მოქმედების შედეგების წინასწარმეტყველების კვლევაზე (JEPA-მოდელები, LeWorld Model, იან ლეკუნის ბოლო გამოსვლები) როგორც ცალკე, საინტერესო მიმართულებაზე.

როგორ გავხადოთ ხელსაწყოები უფრო ეფექტური

მოდელებთან მუშაობისას კიდევ ბევრი გზა არსებობს მათი ეფექტურობის გასაზრდელად: კარგი, მოკლე მონაცემები შესაფერის დროს, დეტერმინისტული შემოწმების ხელსაწყოები და ბუნებრივ ენაზე მიცემული უკუკავშირი, რომლითაც მოდელი საკუთარ თავს ასწორებს. მას ყველაზე მეტად არა ტექსტის წინასწარმეტყველება, არამედ ხელსაწყოების გამოძახება და ინსტრუქციების შესრულება აოცებს.

ამას კი ბნელი მხარეც აქვს. ჰეკი იხსენებს საიმონ უილისონის „სასიკვდილო სამეულს“ (lethal trifecta): მოდელები ვერ არჩევენ კარგ რჩევას ცუდისგან და პრინციპულად ვერ უზრუნველყოფენ prompt injection-ის თავდასხმების თანმიმდევრულ აღკვეთას. ალაინმენტი, უსაფრთხოების ჩარჩოები და sandbox-ები დამატებით ბარიერებს ქმნიან, თუმცა ფუნდამენტური ხარვეზები რჩება — და ის, რაც დაუღალავად ასრულებს ინსტრუქციებს კარგი მსჯელობის გარეშე, მისთვის „საშინელი“ სურათია.

მისი იმედი post-training-სა და RLHF-ს უკავშირდება — რომ სწავლებაში მსჯელობის კვალიც ჩაერთვება. იქამდე კი ნაკერების გადახედვა, დაგეგმვა და გამართვა ის უნარია, რომელიც ინჟინერს აგენტებითაც და მათ გარეშეც სჭირდება.