Adrian Cockcroft: P99 modern servisler için neden yetersiz, AI araç geliştirmeyi nasıl hızlandırıyor

Kariyeri Sun Microsystems, Netflix, eBay ve Amazon'da geçen performans mühendisi Adrian Cockcroft, P99 CONF'ta RedMonk analisti Rachel Stephens ile AI'ın performans mühendisliğini nasıl değiştirdiğini konuştu. Konuşma, Sun'daki ilk çekirdek çalışmalarından P99'un sınırlarına ve bugün dil modelleriyle geliştirdiği analiz araçlarına uzandı.

Çekirdek kodundan AI ile yazılan araçlara

Cockcroft'a göre Sun'da ekipler vmstat gibi sistem metriklerine bakıp sayıların ne anlama geldiğini tahmin ediyordu; belgeler belirsizdi. O ise doğrudan kaynağa indi: çekirdek kodunu okuyup her sayının nereden geldiğini ve hangilerinin yaklaşık değer olduğunu çıkardı ve hepsini yazıya döktü. Bu çalışma iki kitaba dönüştü: "Sun Performance and Tuning" ve "Resource Management".

Kırk yıl sonra uçtan uca izleme araçları çok yaygın, ama Cockcroft'u asıl araçların göstermediği şeyler ilgilendiriyor. Ona göre sistem panolarda iyi görünürken kötü davranabiliyor; bu yüzden verilere bakmanın yeni yollarını arıyor: daha derin seviyeler, daha ince ayrıntı, ortalamalar yerine dağılımlar. Bugün bu araçları LLM'lerle vibe coding yaparak geliştiriyor. "Hızlanmam sonsuz, çünkü bu kodlar bu araçlar olmasa hiç var olmazdı. Onları yazmaya zamanım olmazdı" diyor.

Yüzdelikler değil, tepeler

Cockcroft yıllardır tek bir P99 sayısının modern bir web servisinin gecikmesini tanımlayamayacağını savunuyor. Bir yüzdelik, dağılımın tek tepe mi yoksa birkaç tepe mi içerdiğini söyleyemez; birden fazla tepe olduğunda ortalama, standart sapma ve hatta P99'un kendisi anlamını büyük ölçüde yitirir.

En sevdiği örnek iki tepeli bir histogram: hızlı tepe önbellekten gelen yanıtlara, yavaş tepe gerçek iş gerektiren isteklere karşılık geliyor. Önbellek isabet oranı değiştiğinde tepelerin konumu aynı kalır, yalnızca yüksekliği değişir; ortalama ve P99 ise geniş bir aralıkta oynar. ChatGPT çıktıktan sonra Cockcroft önceden çözdüğü istatistiksel yaklaşımı otomatikleştirdi: R ile yazılıp açık kaynak olarak yayımlanan araç dağılımdaki tepeleri buluyor ve zaman içindeki değişimlerini izliyor.

Tavsiye: geniş başla, sonra yakınlaş

Yüksek performanslı sistemler üzerinde çalışan ekiplere tavsiyesi şu oldu: ilgi çekici olanı bulmak için makro görünümle başlayın, sonra tek tek yavaş istekleri uçtan uca inceleyene kadar derinleşin. Bunu çocukken edindiğiniz mikroskoba benzetti: önce 10 kat büyütmeyle odaklanırsınız, sonra 100 kata geçip tek bir noktaya bakarsınız; o netleşince 1.000 kata geçersiniz.

Performans odaklı ücretsiz ve sanal konferans P99 CONF 2026, 21-22 Ekim'de düzenlenecek.