Oxucu üsyanı: LLM ilə yazılmış mətn niyə auditoriyasını itirir

Mühəndis Brayan Kantrill — DTrace-ın müəlliflərindən biri və Oxide Computer-ın həmtəsisçisi — bloqunda böyük dil modelləri ilə yazılmış mətnlərə qarşı oxucuların açıq üsyanda olduğunu iddia etdiyi yazı dərc edib. Onun sözlərinə görə, belə mətni tanımaq asandır və bu təcrübə yazıçı ilə oxucu arasındakı sosial müqaviləni pozur.

Yazıda qeyd olunur ki, dil modellərinin struktur əlamətləri o qədər qıcıqlandırıcıdır ki, oxucular cümlənin ortasında mətni atır. Kantrill Sintiya Danlopun 668 tərtibatçının süni intellektlə yaradılmış bloq yazılarına necə reaksiya verdiyini təsvir etdiyi sorğusuna istinad edir.

Sorğu nə göstərdi

Kantrillin gətirdiyi rəqəmlərə görə, iştirakçıların 78%-i dil modelini sezdiyi anda oxumağı dayandırır, 71%-i isə daha irəli gedərək gələcəkdə həmin müəllifdən yan keçir. O vurğulayır ki, oxucular dil mükəmməlliyi axtarmır: 98%-i müəllifin öz qeyri-kamil mətnini model tərəfindən cilalanmış variantdan üstün tutduğunu bildirib.

Kantrill bu iştirakçıları özünü seçmiş qrup kimi qiymətləndirməməyi tövsiyə edir. Sosial şəbəkələrdəki aktiv oxucular bəyəndikləri mətnləri ən çox paylaşan insanlardır — onlayn nəsrin erkən mənimsəyənləri və zövq müəyyənediciləri.

Pangram və Oxide siyasəti

Yazara görə, aşkarlamanın ilk cəhdləri etibarsız idi: detektor kimi istifadə edilən modellər çox halı qaçırırdı, səthi əlamətlərin axtarışı isə faydalı olmayacaq qədər geniş idi. Onun qiymətləndirməsinə görə, Pangram Labs-ın keçən il buraxdığı Pangram 3 böyük irəliləyiş idi, təxminən bir ay əvvəl təqdim edilən Pangram 4 isə aşağı yanlış müsbət və yanlış mənfi nisbətləri ilə əsl sıçrayış oldu.

Oxide daxili RFD 576 sənədini genişləndirib: artıq şirkətin adı altında dərc olunan açıq mətnlər Pangram tərəfindən insan tərəfindən yazılmış kimi təsdiqlənməlidir. Kantrill institusional səsin orijinallığını dəyərləndirən təşkilatlara oxşar siyasət qəbul etməyi məsləhət görür.

Spam ilə paralel

Kantrill dil modeli ilə yazılmış mətnləri e-poçt spamı ilə müqayisə edir. 2000-ci illərin əvvəlində spamın e-poçtu məhv edəcəyi ilə bağlı real qorxu var idi; onilliyin sonunda filtrləmə o qədər yaxşılaşdı ki, spamın iqtisadiyyatını dağıtdı və spam etiketi almaq qanuni bizneslər üçün həqiqətən dağıdıcı oldu.

Onun fikrincə, eyni dinamika indi süni intellektlə yazılmış nəsrə də aid ola bilər: oxucular müəllifi görməzdən gəlməyi seçərsə, müəllif dərcin bütün mənasını özü dağıtmış olar. Tövsiyə aydındır — dil modelini müəllif kimi deyil, redaktor kimi istifadə edin, çünki prompt məqalə deyil.