გრუბერი Anthropic-ის ტექსტის „წყლის ნიშნების" გეგმას აკრიტიკებს

ბლოგ Daring Fireball-ის ავტორი ჯონ გრუბერი დეტალურ კრიტიკას აქვეყნებს Anthropic-ის გეგმაზე, რომელიც კომპანიის Claude მოდელების მიერ მსოფლიოში გენერირებულ ყველა ტექსტში სტატისტიკურ „წყლის ნიშნებს" ჩასვამს და ამ მეთოდს წერის გაფუჭებას უწოდებს. კომპანია სისტემას AI-ის მიერ გენერირებული კონტენტის გამჭვირვალობის შესახებ ევროკავშირის ქცევის კოდექსის შესასრულებლად ნერგავს; Anthropic-მა მას 2026 წლის ივლისში მოაწერა ხელი, დაახლოებით 190 სხვა ხელმომწერთან ერთად.

როგორ მუშაობს წყლის ნიშანი

თავდაპირველად Anthropic მხოლოდ ამბობდა, რომ Claude „ტექსტში უშუალოდ შეუმჩნეველ წყლის ნიშანს ქსოვს", მექანიზმის ახსნის გარეშე. მოგვიანებით გამოქვეყნებული პოსტი „How Claude's Text Watermark Works" სტეგანოგრაფიულ მეთოდს აღწერს: ყოველ იმ მომენტში, როდესაც მოდელი შემდეგ ტოკენს ირჩევს, მისი ვარიანტები საიდუმლო გასაღების მიხედვით დეტერმინისტულად ნაწილდება „მწვანე" და „წითელ" სიებად, და „მწვანე" სიის სიტყვების არჩევის ალბათობა ოდნავ მეტი ხდება. დეტექცია შემდეგ ამოწმებს, შეიცავს თუ არა ტექსტი შემთხვევითობით მოსალოდნელზე მეტ „მწვანე" სიტყვას — სტატისტიკური ტესტი, რომლის სიზუსტე ტექსტის სიგრძესთან ერთად იზრდება. ნიშანდება 200 ტოკენზე (დაახლოებით 150 სიტყვა) გრძელ გენერირებულ ტექსტს ეხება და, Anthropic-ის თქმით, გაშვებისთანავე მთელ მსოფლიოში მოქმედებს, რადგან კომპანიას რეგიონების მიხედვით შეზღუდვის საიმედო მექანიზმი არ აქვს.

შენიშვნები

გრუბერის მთავარი არგუმენტია, რომ ორი სინონიმი ზუსტად ერთსა და იმავე მნიშვნელობას არ ატარებს, ამიტომ ტოკენების არჩევანის — თუნდაც ოდნავ — ნაკლებად შესაფერისი ვარიანტებისკენ გადახრა ტექსტს განზრახ აუარესებს. ის ასევე აღნიშნავს, რომ ნიშნების შექმნისა და ამოცნობის საიდუმლო გასაღები მხოლოდ Anthropic-ს აქვს — მომხმარებელს თავად ვერაფრის გადამოწმება არ შეუძლია, ხოლო მკითხველს შესაძლოა დაუმტკიცებელი ბრალდებები წაუყენონ AI-ის მიერ დაწერილობაზე. ვინაიდან ტექნიკა სიტყვების არჩევანს ეყრდნობა, ის კოპირება-ჩასმას გადაურჩება და, ერთი ციტირებული ნაშრომის მიხედვით, თარგმანსაც უძლებს; კრიტიკოსების თქმით, ვისაც რეალურად მოტყუება სურს, ტექსტს უბრალოდ პარაფრაზირების ხელსაწყოში გაატარებს. მსგავსი არგუმენტები მაიკლ ლოპმა, ჯეფ გამეტმა და ჯეიმს პადოლსიმაც წამოაყენეს — პადოლსის თქმით, Anthropic-ის გადაწყვეტილება კანონით მოთხოვნილ მინიმუმზე უფრო ფართოა.

ფართო კონტექსტი

Google-ის მსგავსი სისტემა SynthID უკვე გამოიყენება Gemini-ს ტექსტზე; DeepMind-ის გუნდის Nature-ის სტატიის მიხედვით, ნიშანდებულ და უნიშნო ტრაფიკს შორის მოწონებისა და არ მოწონების მაჩვენებლები 0,01%-ით და 0,02%-ით განსხვავდებოდა, რაც ავტორებმა სტატისტიკურად უმნიშვნელოდ მიიჩნიეს. გრუბერი ამ მტკიცებულებას ძალიან უხეშად თვლის იმისთვის, რომ სიტყვების გაუარესებული არჩევანი დააფიქსიროს, თუმცა აღიარებს, რომ მეთოდის მათემატიკა საინტერესოა. OpenAI-მ განაცხადა, რომ მიზანია წარმოშობის სიგნალების ყველა მოდალობაზე, მათ შორის ტექსტზე, გავრცელება, თუმცა არ დააკონკრეტა, სავალდებულო გახდება თუ არა ეს ყველა მომხმარებლისთვის. ეს ისტორია საცდელ შემთხვევად იქცა იმის საილუსტრაციოდ, თუ როგორ იმოქმედებს ტექსტის გამჭვირვალობის წესები ევროკავშირის გარეთ მოქმედ ავტორებზე.