Qruber Anthropic-in bütün Claude mətnlərini "su nişanı" ilə işarələmə planını tənqid edir

Daring Fireball bloqunun müəllifi Con Qruber Anthropic-in dünya üzrə Claude modellərinin yaratdığı bütün mətnlərə statistik "su nişanı" yerləşdirmə planına dair ətraflı tənqid dərc edib və bu texnikanı yazının korlanması adlandırıb. Şirkət sistemi 2026-cı ilin iyulunda təqribən 190 digər imzalayanla birlikdə imzaladığı Aİ tərəfindən yaradılmış məzmunun şəffaflığı üzrə AB Davranış Kodeksinə uyğunlaşmaq üçün tətbiq edir.

Su nişanı necə işləyir

Əvvəlcə Anthropic yalnız Claude-un "mətnin özünə bilinməyən su nişanı höyüdüyünü" bildirmiş, mexanizmi açıqlamamışdı. Sonradan dərc olunan "How Claude's Text Watermark Works" yazısı steqanoqrafik üsulu təsvir edir: model növbəti tokeni seçdiyi hər nöqtədə variantlar gizli açar əsasında deterministik şəkildə "yaşıl" və "qırmızı" siyahılara bölünür və yaşıl siyahıdakı sözlərin seçilmə ehtimalı bir qədər artır. Aşkarlama zamanı mətnin təsadüfün gözlədiyindən çox yaşıl siyahı sözü saxlayıb-saxlamadığı yoxlanılır — uzunluq artdıqca etibarlılığı yüksələn statistik test. İşarələmə 200 tokendən (təxminən 150 sözdən) uzun yaradılmış mətnlərə şamil olunur və Anthropic-in sözlərinə görə, şirkətin bölgə üzrə etibarlı məhdudlaşdırma imkanı olmadığından buraxılışdan etibarən qlobal tətbiq edilir.

Etirazlar

Qruberin əsas arqumenti budur ki, heç iki sinonim tam eyni məna daşımır, ona görə də token seçiminin — hətta azca — daha zəif uyğunluqlara doğru meylləndirilməsi mətni qəsdən pisləşdirir. O həmçinin qeyd edir ki, nişanları yaradan və aşkarlayan gizli açar yalnız Anthropic-dədir: istifadəçilər özləri heç nəyi yoxlaya bilmir, oxucular isə AI müəllifliyi ilə bağlı sübuta yetirilməsi mümkün olmayan ittihamlarla üzləşə bilər. Texnika söz seçiminə söykəndiyi üçün kopyala-yapışdıra davam gətirir və istinad edilən məqalələrdən birinə görə, tərcümədən də sağ çıxa bilər; tənqidçilər əslində aldadıcılıq istəyənin mətni sadəcə yenidən ifadələndirmə alətindən keçirəcəyini bildirir. Bənzər etirazları Maykl Lopp, Ceff Qamet və Ceyms Padolsi də səsləndirib; Padolsiyə görə Anthropic-in model səviyyəsindəki həlli qanunun tələb etdiyi minimumdan daha genişdir.

Daha geniş kontekst

Google-un bənzər sistemi SynthID artıq Gemini mətnlərinə tətbiq olunur; DeepMind komandasının Nature məqaləsində bildirilir ki, işarələnmiş və işarələnməmiş trafikdə bəyənmə və bəyənməmə göstəriciləri 0,01% və 0,02% fərqlənib və müəlliflər bunu statistik olaraq əhəmiyyətsiz sayıb. Qruber bu sübutu söz seçimindəki pisləşməni tutmaq üçün çox kobud hesab edərək rədd edir, eyni zamanda metodun riyaziyyatının maraqlı olduğunu qəbul edir. OpenAI mənbə siqnallarını mətn daxil bütün modalitələrə genişləndirməyi hədəflədiyini, bunun bütün istifadəçilər üçün məcburi olub-olmayacağını dəqiqləşdirmədən açıqlayıb. Hadisə mətn şəffaflığı qaydalarının AB-dən kənardakı yazarlara necə təsir edəcəyinə dair sınaq halına çevrilib.