ШІ розбирається з інцидентами, а інженери втрачають зв'язок із системами

Інструменти реагування на інциденти на базі ШІ, які часто називають "AI SRE", вміють переглядати сповіщення, формулювати гіпотези, запитувати телеметрію, зіставляти нещодавні розгортання й іноді самостійно впроваджувати виправлення. У блозі керівник AI Labs компанії Rootly Сільвен Калаш стверджує, що цей прогрес має ціну: інженери втрачають зв'язок із системами, за які відповідають.

Рутинні інциденти формують інтуїцію

Калаш, колишній SRE у LinkedIn і співзасновник Holberton School, пише, що автоматичне розв'язання рутинних сповіщень забирає в людей ту практику, яка їм потрібна. Саме на рутинних інцидентах інженери виробляють інтуїцію щодо того, як поводяться та як ламаються їхні системи. Коли надійде складний, раніше не бачений інцидент, який автоматика не подолає, людям доведеться братися за нього з меншим досвідом, ніж раніше.

Він посилається на дослідницю людського фактора Лізан Бейнбрідж, чия праця 1983 року "Іронія автоматизації" описала цей парадокс: автоматизація позбавляє операторів можливості практикувати рутинну роботу, але залишає на них відповідальність за аномальні ситуації, тож їм потрібно більше навичок і навчання, ніж до автоматизації. Калаш прогнозує, що середній MTTR більшості інцидентів знизиться, але час розв'язання складних випадків зросте, бо реагувальники втратили контакт із системами.

Що робить авіація з рідкісними відмовами

Авіація дає приклад. Автоматика виконує значну частину польоту, але пілоти відповідають за відмову двигуна, ненадійні прилади, перерваний зліт і звалювання. Сучасні турбінні двигуни дають менш ніж одне вимкнення в польоті на 100 000 годин роботи — настільки рідко, що пілот може провести всю кар'єру без такого випадку поза симулятором. За правилами FAA капітани мусять кожні шість місяців проходити повторне навчання або перевірку кваліфікації, зокрема сценарій відмови двигуна під час зльоту. Ціна втрати цієї навички видна в катастрофах: на рейсі 235 TransAsia Airways екіпаж неправильно визначив, який двигун відмовив, і літак розбився через 117 секунд після першого попередження.

Симуляції, тренери та "борг розуміння"

Роботодавець Калаша, компанія Rootly, що займається управлінням інцидентами, разом з Uptime Labs створила реалістичні симуляції інцидентів: інженери сідають за кермо керівника інциденту під час змодельованої аварії в електронній комерції, користуються інструментами спостережуваності та координуються зі стейкхолдерами на базі LLM у Slack. ШІ може бути й тренером — реагувальник може попросити агента пояснити його кроки, перевірені сигнали та докази, на яких ґрунтується діагноз. Проте пояснення й спостереження не замінюють практики, наполягає Калаш, порівнюючи це з навчанням тенісу за переглядом.

Його висновок: інженерні команди ризикують накопичити "борг розуміння" — дедалі більший розрив між тим, як працюють їхні системи, і тим, наскільки добре їх розуміють реагувальники. Регулярна практика на системі, незнайомі відмови, настільні навчання та хаос-інжиніринг мають бути частиною готовності до чергувань, а не необов'язковим доповненням.