Karmaşık sistemler nasıl çöker: arıza ve güvenlik üzerine 18 önerme

how.complexsystems.fail sitesi, 1998 tarihli kısa bir denemeyi karmaşık sistemlerdeki arızalar üzerine 18 numaralı önerme olarak yeniden yayımlıyor. Metin kazaları bir anormallik değil, bu sistemlerin kurulma ve işletilme biçiminin olağan sonucu olarak görüyor ve güvenlik tartışmalarında hâlâ alıntılanıyor.

Arıza sistemin olağan bir özelliğidir

İlk önermeler, karmaşık sistemlerin — ulaşım, sağlık, enerji üretimi — doğası gereği tehlikeli olduğunu söylüyor: tehlikeye maruz kalma sıklığı bazen değiştirilebilir, ama süreçlerin kendisi azaltılamaz biçimde tehlikelidir. Yüksek sonuçlar zamanla çok sayıda savunma katmanı yaratır; teknik ve insani bu katmanlar normalde işe yarar. Felaket, birkaç küçük arızanın aynı anda hizalanmasını gerektirir: her biri zorunlu, yalnızca birleşimleri yeterlidir.

Karmaşıklık bu sistemlerin kusursuz çalışmasını imkânsız kıldığı için, sistemler bozuk bir rejimde işler ve içlerinde değişen bir gizli arıza karışımı taşır. Metne göre kaza sonrası incelemeler neredeyse her zaman daha eski “proto-kazaların” geçmişini bulur.

“Kök neden” sorunu

Deneme, kazayı tek bir kök nedene indirgemeyi reddeder. Görünür bir arıza birden çok kusur gerektiriyorsa, yalıtılmış bir neden yoktur — nedenler ancak birlikte yeterlidir. “Kök neden” mantığı, arızanın teknik anlaşılmasını değil, yerel bir gücü ya da olayı suçlama yönündeki toplumsal ihtiyacı yansıtır. Geriye dönük bakış da insan performansının değerlendirmesini bozar: sonucu bilmek, öncülleri operatörler için olduğundan daha belirgin gösterir.

Operatörler aynı anda iki rol taşır: sistemin çıktısını üretir ve onu arızaya karşı savunurlar. Dışarıdan bakanlar bu ikiliği nadiren fark eder; sakin dönemlerde üretim rolü, kazadan sonra savunma rolü öne çıkar. Her eylem belirsiz sonuçlar altında bir kumardır ve başarılı sonuçlar da böyle kumarlardır.

Güvenlik sürekli üretilir

Kapanış önermeleri güvenliğin tüm sistemin beliren bir özelliği olduğunu, satın alınabilecek ya da ayrılabilecek bir bileşen olmadığını savunur; tehlike ve yönetimi sürekli değiştiği için güvenlik de dinamiktir. Arızasız işleyiş, sistemi sürekli olarak kabul edilebilir performans sınırları içinde tutan insanların işidir — çoğu zaman prova edilmiş rutinlerin seçilmesiyle, bazen de yenilerinin icat edilmesiyle. Sınırın fark edilmesi ise arızayla yakın temas gerektirir; bu yüzden daha iyi güvenlik, operatörlere tehlikelerin ve kendi eylemlerinin etkisinin ölçülü bir görünümünü sunmaya bağlıdır.