Okurun isyanı: LLM ile yazılan metin neden okuyucusunu kaybediyor

Mühendis Bryan Cantrill, DTrace'ın yazarlarından biri ve Oxide Computer'ın kurucu ortaklarından biri, blogunda büyük dil modelleriyle yazılmış metinlere karşı okurların açık bir isyan içinde olduğunu savunduğu bir yazı yayımladı. Ona göre bu tür metinler kolayca tanınıyor ve bu pratik, yazar ile okur arasındaki toplumsal sözleşmeyi ortadan kaldırıyor.

Yazıda, dil modellerinin yapısal izleri o kadar rahatsız edici ki okurların cümle ortasında metni bıraktığı anlatılıyor. Cantrill, 668 geliştiricinin yapay zekâ üretimi blog yazılarına nasıl tepki verdiğini anlattığı Cynthia Dunlop anketine dayanıyor.

Anket ne gösterdi

Cantrill'in aktardığı rakamlara göre katılımcıların %78'i bir dil modeli fark ettiği anda okumayı bırakıyor, %71'i ise daha ileri giderek o yazarı gelecekte de atlıyor. Cantrill, okurların dilsel kusursuzluk peşinde olmadığını vurguluyor: %98'i yazarın kendi kusurlu metnini, bir modelin cilaladığı metne tercih ettiğini söyledi.

Cantrill bu katılımcıları kendini seçmiş bir grup olarak görmemek gerektiği uyarısında bulunuyor. Sosyal medyadaki aktif okurlar, beğendikleri yazıları paylaşma olasılığı en yüksek kişiler — yani çevrimiçi düzyazının erken benimseyenleri ve zevk belirleyicileri.

Pangram ve Oxide'in politikası

Yazara göre erken tespit girişimleri güvenilir değildi: dedektör olarak kullanılan modeller çok fazla vakayı kaçırıyordu, yüzeysel izleri aramak ise kullanışsız olacak kadar genişti. Değerlendirmesine göre Pangram Labs'in geçen yıl çıkardığı Pangram 3 büyük bir ilerlemeydi, yaklaşık bir ay önce tanıtılan Pangram 4 ise düşük yanlış pozitif ve yanlış negatif oranıyla tam anlamıyla sıçrama yarattı.

Oxide, şirketin adı altında yayımlanan kamuya açık yazıların Pangram tarafından insan yazımı olarak raporlanmasını şart koşacak şekilde iç belgesi RFD 576'yı genişletti. Cantrill, kurumsal sesin özgünlüğüne değer veren kuruluşlara benzer bir politika benimsemelerini öneriyor.

Spam benzetmesi

Cantrill, dil modeliyle yazılmış metinleri e-posta spamına benzetiyor. 2000'lerin başında spamın e-postayı yok edeceğine dair gerçek korkular olduğunu hatırlatıyor; 2000'lerin sonunda filtreleme o kadar gelişti ki spamın ekonomisi çöktü ve spam etiketi almak meşru işletmeler için gerçekten yıkıcı hale geldi.

Ona göre aynı dinamik artık yapay zekâ ile yazılmış metinler için de geçerli olabilir: okurlar bir yazarı görmezden gelmeyi seçerse, o yazar yayımlamanın bütün amacını kendi eliyle yıkmış olur. Tavsiyesi net: dil modelini yazar değil, editör olarak kullanın, çünkü bir prompt makale değildir.