AI ინციდენტებს აგვარებს — ინჟინრები სისტემებთან კავშირს კარგავენ

ინციდენტებზე რეაგირების AI-ინსტრუმენტებს, რომლებსაც ხშირად „AI SRE-ებს“ უწოდებენ, შეუძლიათ ალერტების შემოწმება, ჰიპოთეზების ჩამოყალიბება, ტელემეტრიის მოთხოვნა, ბოლო დეპლოების კორელაცია და ზოგჯერ გამოსწორების დანერგვაც. Rootly-ის AI Labs-ის ხელმძღვანელი სილვენ კალაშე ბლოგპოსტში წერს, რომ ამ პროგრესს ფასი აქვს: ინჟინრები კარგავენ კავშირს სისტემებთან, რომელთა მუშაობაზეც პასუხისმგებელნი არიან.

რუტინული ინციდენტები ინტუიციას ამუშავებს

კალაშე, ყოფილი LinkedIn-ის SRE და Holberton School-ის თანადამფუძნებელი, აღნიშნავს, რომ რუტინული ალერტების ავტომატური გადაწყვეტა ადამიან რესპონდერებს იმ პრაქტიკას ართმევს, რაც მათ სჭირდებათ. სწორედ რუტინული ინციდენტების დროს ყალიბდება ინტუიცია იმაზე, თუ როგორ იქცევა და როგორ ცდება სისტემა. როცა მოვა რთული, აქამდე უნახავი ინციდენტი, რომელსაც ავტომატიკა ვერ გადაჭრის, რესპონდერებს მისი აღება ნაკლები გამოცდილებით მოუწევთ.

ის იხსენებს ადამიანური ფაქტორების მკვლევარ ლისანე ბეინბრიჯს, რომლის 1983 წლის ნაშრომი „ავტომატიზაციის ირონია“ სწორედ ამ პარადოქსს აღწერს: ავტომატიზაცია ოპერატორებს ართმევს რუტინულ სამუშაოზე ვარჯიშის შესაძლებლობას, მაგრამ ანომალიურ სიტუაციებზე პასუხისმგებლობას მაინც მათ ტოვებს — შესაბამისად, მათ უფრო მეტი უნარი და ტრენინგი სჭირდებათ, ვიდრე ავტომატიზაციამდე. კალაშეს პროგნოზით, ინციდენტების საშუალო MTTR შემცირდება, მაგრამ რთული შემთხვევების გადაწყვეტის დრო გაიზრდება, რადგან რესპონდერებმა სისტემებთან კონტაქტი დაკარგეს.

რას აკეთებს ავიაცია იშვიათი ჩავარდნებისთვის

ავიაცია მაგალითია. ავტომატიკა ფრენის დიდ ნაწილს თავად ახორციელებს, მაგრამ პილოტები მაინც პასუხისმგებელნი არიან ძრავის ჩავარდნაზე, არასაიმედო ხელსაწყოებზე, შეწყვეტილ აფრენასა და სტოლზე. თანამედროვე ტურბინული ძრავების შემთხვევაში ფრენის დროს გამორთვა 100 000 საათზე ნაკლებად ხდება — ეს იმდენად იშვიათია, რომ პილოტმა შეიძლება მთელი კარიერა გაატაროს სიმულატორის გარეთ ასეთი შემთხვევის გარეშე; FAA-ის წესებით, კაპიტნებმა ყოველ ექვს თვეში ერთხელ უნდა გაიარონ განმეორებითი ტრენინგი ან კვალიფიკაციის შემოწმება, ძრავის ჩავარდნის სცენარის ჩათვლით. ამ უნარის დაკარგვის ფასი კატასტროფებში ჩანს: TransAsia Airways-ის 235-ე რეისზე ეკიპაჟმა ვერ დაადგინა, რომელი ძრავა გაუფუჭდა, და თვითმფრინავი პირველი გაფრთხილებიდან 117 წამში ჩამოვარდა.

სიმულაციები, ტრენერები და „გაგების ვალი“

კალაშეს დამსაქმებელი, ინციდენტების მართვის კომპანია Rootly, Uptime Labs-თან ერთად რეალისტურ ინციდენტების სიმულაციებს ქმნის: ინჟინრები სიმულირებული ელექტრონული კომერციის ავარიის დროს ინციდენტის მეთაურის ადგილს იკავებენ, იყენებენ დაკვირვებადობის ინსტრუმენტებს და Slack-ში LLM-ზე დაფუძნებულ დაინტერესებულ მხარეებთან კოორდინირდებიან. AI ტრენერის როლშიც გამოდგება — რესპონდერს შეუძლია აგენტს ჰკითხოს, რა ნაბიჯები გადადგა, რომელი სიგნალები შეამოწმა და რა მტკიცებულებაზე დაყრდნობით დაასკვნა. თუმცა ახსნა და დაკვირვება ვარჯიშს არ ცვლის: ტენისს მხოლოდ კორტზე თამაშით სწავლობ.

მისი დასკვნაა, რომ საინჟინრო გუნდებს „გაგების ვალის“ დაგროვება ემუქრებათ — უფსკრული იმას შორის, თუ როგორ მუშაობს მათი სისტემები და რამდენად კარგად ესმით მათ რესპონდერები. სისტემაზე რეგულარული პრაქტიკა, უცხო ჩავარდნების დამუშავება, სამაგიდო სწავლებები და ქაოს-ინჟინერია, მისი აზრით, მორიგეობის მზადყოფნის ნაწილი უნდა იყოს და არა არასავალდებულო დანამატი.