The Coming Loop: dış döngüler yazılım geliştirmeyi nasıl değiştiriyor

Yazılım geliştirici Armin Ronacher, 23 Haziran'da yayımladığı "The Coming Loop" başlıklı makalesinde yapay zekâ destekli yazılım geliştirmedeki en önemli değişimin kodlama ajanının kendisi değil, onun etrafında kurulan otomasyon katmanı olduğunu savunuyor.

Yazı, Boris Cherny'ye atfedilen şu alıntıyla açılıyor: "Artık Claude'a prompt yazmıyorum. Claude'a prompt yazan ve ne yapacağına karar veren döngülerim var. Benim işim döngü yazmak."

İki döngü, tek değil

Ronacher, her kodlama aracının içindeki ajan döngüsünü — modelin bir araç çağırması, sonucu okuması, dosyayı düzenlemesi, testleri çalıştırması — onu çevreleyen harness düzeyindeki döngüden ayırıyor. İkinci kalıpta iş bir kuyruğa girer, bir makine onu alıp dener ve ardından harness işin gerçekten bitip bitmediğine karar verir. Bitmediyse aynı oturum yeni bir mesajla sürdürülür, değiştirilmiş bağlamla taze bir oturum başlatılır ya da görev başka bir makineye aktarılır.

Dış döngü yeni değil, diyor yazar; ancak son haftalarda ajan mühendisliğinin kıyısından tartışmanın merkezine taşındı.

Nerede işe yarıyor, nerede yaramıyor

Yazar, tamamen otomatik döngülerin gerçekten önemsediği kodda iyi sonuç vermediğini açıkça söylüyor; bunun nedeni hem zevk hem de kontrol. Bir sistemi, bir modelden kendisine açıklamasını istemeden anlatabilmek istiyor. Bugünün modelleri ona göre fazla savunmacı ve akıl yürütmede fazla yerel kod üretiyor: hatalı durumları olanaksız kılmak yerine yedek yollar ekliyor, mantığı çoğaltıyor ve zayıf soyutlamalar icat ediyor. Andrej Karpathy'nin modellerin "istisnalardan ölümüne korktuğu" gözlemini aktarıyor ve döngülerin bu alışkanlığı güçlendirdiğini savunuyor, çünkü her yineleme bir küçük savunma daha ekliyor.

Kalıp, çıktının uzun ömürlü olması gerekmediğinde çok daha iyi çalışıyor: kodun diller arasında taşınması — Bun'un Zig'den Rust'a taşınması çalışmalarını ve kendi MiniJinja-Go portunu örnek veriyor — performans araştırması, güvenlik taraması ve araştırma görevleri. Başarılı kurguların çoğunda hakem ya da orkestratör olarak başka bir model kullanılıyor; harness'e yalnızca yeni bir yinelemeyi tetikleyecek kadar güçlü bir sinyal yeter.

Yazılım organizma olarak

Ronacher'in temel kaygısı, yazılımın deterministik bir makineden bir organizmaya dönüşmesi: izlenen, dengelenen ve tedavi edilen, ama artık tam olarak anlaşılmayan sistemler. Bundan çıkmanın zor olduğunu savunuyor: saldırganlar ve güvenlik araştırmacıları her kod tabanına otomatik analiz yöneltecek ve sürdürücüler baskıyı şimdiden hissediyor — Daniel Stenberg'in curl projesine ulaşan bildirim akışına ilişkin anlatımına işaret ediyor. Rekabet baskısı da aynı yönde: çok küçük ekipler, eskiden çok daha fazla insan gerektiren hızlarla ürün çıkarıyor.

Makale, döngülerin geldiğini kabul ederek ve soruyu yeniden çerçeveleyerek bitiyor: ekiplerin bunları kullanıp kullanmayacağı değil, yargıyı nasıl kaybetmeyeceğimiz, iyi mühendislik kurallarını nasıl koruyacağımız ve sorumlu insanların bu şekilde kurulan sistemleri denetlemeye nasıl devam edeceği.