Yazılım mühendisliğinin temelleri her zamankinden daha önemli

Geliştirici ve yazar Joseph Heck, 15 Ağustos'ta Rhonabwy adlı blogunda yayımladığı yazıda, AI ajan araçlarının çalışan kod üretmeyi ucuzlattığı bir dönemde yazılım mühendisliğinin temellerinin — özellikle de bir sistemin parçalarının nasıl bir araya getirildiğinin — her zamankinden daha önemli olduğunu savunuyor.

"Yapılabilir mi" rubikonunu geçmek

Heck'e göre ajan araçları son bir yılda bu eşiği aştı ve bir araç ile modelin birleşimi gerçekten ilginç bir güç aracı. Ona kalırsa en etkileyici işi, mesleğin sonunu ilan edenler değil, kaldıracı bulup dayanağı arayanlar yapıyor: onlar gürültü çıkarmıyor.

Ekonomi konusunda daha kuşkulu: gördüğü bütün raporlara göre büyük model sağlayıcılarının iş modelleri sürdürülebilir değil, ama yetenek yok olmuyor — hızla ucuzluyor. Açık ağırlıklı modeller güçlü bir kişisel bilgisayarı benzer işleri yapabilir hale getiriyor; sonuç sınır modellerden biraz zayıf, ama fark büyük değil.

"Çalışıyor" işin başlangıcı, kendisi değil

Heck bunu yirmili yaşlarında kaynak öğrenmesine benzetiyor: kısa sürede kaldıramadığı, atölyenin kapısından çıkaramadığı şeyler üretmeye başlamıştı. Ders aynı: parçaların nasıl bir araya geldiği her şeyi belirliyor. Biraz öngörüyle ajan araçları yalnızca "çalışan" değil, "test edilebilir" kod da üretiyor — kendisi sık sık "develop with red/green TDD" istemini kullanıyor — ama bunun üstüne pek çıkmıyor. Yazılımın dikiş yerleri — kodun nasıl çalıştığı, API'si ve başka yazılımlarla nasıl eklemlendiği — bilim olduğu kadar sanat ve bir sistemle yıllarca nasıl yaşanacağına dair yargıya, deneyime ve tahminlere dayanıyor.

Modellerin yetersiz kaldığı yer

Yazılımı hata ayıklanabilir, bakımı yapılabilir, katmanlı ve birleştirilebilir kılmak hâlâ zor; bu işin büyük kısmı uzun ve derin bir akıl yürütme gerektiriyor ve bugünün modelleri tam da burada tökezliyor. Heck'e göre LLM'ler "akıl yürütmez", tahmin eder; modeller aslında sıkıştırılmış insan bilgisidir. Heck ayrıca LLM'lerin akıl yürütmedeki zayıflığını anlatan "The Illusion of Thinking" makalesine ve eylemlerin sonuçlarını tahmin etme araştırmalarına (JEPA modelleri, LeWorld Model, Yann LeCun'un son konuşmaları) işaret ediyor.

Araçlardan daha fazlasını almak — ve sınırlar

LLM'leri daha etkili kılmanın hâlâ pek çok yolu var: doğru anda iyi ve öz veri sağlamak, ayrıca modelin kendini düzeltebilmesi için deterministik doğrulama araçları ve doğal dille geri bildirim vermek. Onu en çok etkileyen şey metin tahmini değil, modellerin araçları çağırma ve talimatları izleme becerisi.

Talimat izlemenin karanlık bir yüzü de var. Heck, Simon Willison'un "ölümcül üçlüsü"nü hatırlatıyor: modeller iyi öğüdü kötüsünden ayırt edemiyor ve prompt injection saldırılarını tutarlı biçimde önleme yeteneğinden temelde yoksun. Hizalama çalışmaları, güvenlik katmanları ve kum havuzları en kötü sonuçlara karşı bariyer ekliyor, ama temel boşluklar sürüyor — ve iyi akıl yürütmeden yorulmadan talimat uygulayan bir şey, onun deyimiyle, kâbus malzemesi.

Heck, post-training ile RLHF'in temiz arayüzler ve bakımı kolay tasarım üzerine akıl yürütmeyi yakında pekiştirmesini umuyor. O zamana kadar dikiş yerlerini gözden geçirmek, planlamak ve onarmak, mühendisin ajanlarla da ajansız da ihtiyaç duyduğu bir beceri — ve ona göre bu beceri her zamankinden daha önemli.