Pydantic yazısı: döngüdeki insan yoruldu

Denetim yorgunluğu

Pydantic'ten Laura Summers, “The Human-in-the-Loop is Tired” başlıklı bir deneme yayımladı. Yazıda, büyük dil modelleriyle programlamanın aynı anda hem gerçekten yararlı hem de gerçekten sarsıcı olduğunu, bu denklemin ikinci yarısının görmezden gelinmesinin ise geliştiricileri tükenmişliğe sürükleyeceğini savunuyor. Pydantic, veri doğrulama araçları ve AI ajanları için bir çerçeve geliştiriyor.

Yazının merkezinde Summers'ın denetim yorgunluğu dediği şey var. Pydantic AI çerçevesini sürdüren meslektaşı Douwe, her sabah kabaca otuz pull request ile uyandığını — her birini gece boyunca birinin AI'ı açmış — ve hepsi hakkında hızlı karar vermek zorunda kaldığını anlatıyor. İncelemeyi doğrudan bir modele devretme cazibesi büyüktü, ama onun deyişiyle: “o noktada ben burada ne yapıyorum?”

Summers, bir modele yaptıracağı planı yazmak için neredeyse iki tam gün harcadığını — netleştirip yeniden tanımlayarak — ama modelin yine de bir React hook'unu yanlış dosyaya taşıdığını ya da var olmayan bileşenler uydurduğunu anlatıyor. Bunlar yetenek değil tutarlılık hataları: model makul kod üretebiliyor, ancak karmaşık bir değişiklik boyunca tek bir niyeti her zaman koruyamıyor.

Ödül fonksiyonu sorunu

Bunun arkasındaki mekanizmaya Summers insani ödül fonksiyonu sorunu diyor. Makine öğrenmesinde ödül fonksiyonu bir ajana neyin iyi olduğunu söyler; kodu elle yazmak hiç kolay değildi ama küçük ödüllerle doluydu — derlemenin geçtiğini görmek, kontrol hissi. LLM destekli çalışma bunun büyük bölümünü otomatikleştirip yerine inceleme ve denetim koyuyor: keyifli kısım küçülüyor, yorucu kısım büyüyor.

Yoğunluk da artıyor. Summers, AI'ın işi azaltmadığını, aksine yoğunlaştırdığını gösteren Berkeley Haas araştırmasına atıf yapıyor ve plan neredeyse hazır göründüğü için gece neredeyse ikiye kadar prompt yazdığını hatırlıyor. Bir meslektaşının şakası — aynı anda beş Claude oturumu aç — anı iyi anlatıyor: başlatabileceğiniz işlerin sayısı hızla arttı, düşünerek bitirebileceklerinizin sayısı ise değişmedi, çünkü bunun için hâlâ tek bir beyin gerekiyor.

Bir emsal ve geriye kalanlar

Summers bu anı 2009'da sabit genişlikli yerleşimlerden duyarlı tasarıma geçişe benzetiyor. Tasarımcılar piksel düzeyindeki kontrolü kaybetmekten hoşlanmadı, ama zanaat ölmedi: oran duygusu, hiyerarşi, sistem düşüncesi ve belirsizliğe göre tasarlamak daha önemli hale geldi. Bugünkü değişim daha hızlı, ama örüntü aynı.

Makul kodun ucuz olduğu bir dönemde ayırt edici olan şeyler zevk, nüans, olgun mimari görüşler ve gerçek uzmanlıktan gelen aykırı kararlar. Yeni pratikler de doğuyor — örneğin planın felaketle sonuçlandığını varsayan ve nedenlerini arayan yeni bir oturumla yapılan “pre-mortem” çalışması. Sonuç ölçülü: darboğaz hiçbir zaman kod değildi; insan dikkati ve mühendislik muhakemesiydi. İnsanlar hâlâ döngüde — yalnızca yorgun.