Գրուբերը քննադատում է Anthropic-ի՝ Claude-ի ողջ տեքստը «ջրանիշելու» ծրագիրը

Daring Fireball բլոգի հեղինակ Ջոն Գրուբերը մանրամասն քննադատություն է հրապարակել Anthropic-ի ծրագրի վերաբերյալ, որով ընկերությունը ամբողջ աշխարհում Claude մոդելների գեներացրած բոլոր տեքստերում վիճակագրական «ջրանիշեր» կմտցնի, և այդ մեթոդը գրելու աղավաղում է անվանել։ Ընկերությունը համակարգը ներդնում է ԵՄ-ի՝ AI-ով գեներացված բովանդակության թափանցիկության վերաբերյալ վարքականոնին համապատասխանելու համար, որը Anthropic-ը ստորագրել է 2026 թվականի հուլիսին՝ շուրջ 190 այլ ստորագրողների հետ միասին։

Ինչպես է աշխատում ջրանիշը

Սկզբում Anthropic-ը միայն ասում էր, որ Claude-ը «աննկատելի ջրանիշ է հյուսում անմիջապես տեքստի մեջ»՝ առանց մեխանիզմը բացատրելու։ Ավելի ուշ հրապարակված «How Claude's Text Watermark Works» գրառումը նկարագրում է ստեգանոգրաֆիկ մեթոդ. ամեն անգամ, երբ մոդելը ընտրում է հաջորդ թոքենը, նրա տարբերակները գաղտնի բանալու հիման վրա դետերմինիստորեն բաժանվում են «կանաչ» և «կարմիր» ցուցակների, և «կանաչ» ցուցակի բառերն ընտրվելու մի փոքր ավելի մեծ հավանականություն են ստանում։ Հայտնաբերումը ստուգում է՝ արդյոք հատվածում պատահականությունից ավելի շատ «կանաչ» բառեր կան. վիճակագրական թեստ, որի ճշգրտությունը մեծանում է երկարության հետ։ Նշումը կիրառվում է 200 թոքենից (մոտ 150 բառ) երկար գեներացված տեքստի վրա և, ըստ Anthropic-ի, գործում է գլոբալ՝ գործարկման պահից, քանի որ ընկերությունը տարածաշրջանային սահմանափակման հուսալի եղանակ չունի։

Առարկությունները

Գրուբերի հիմնական փաստարկն այն է, որ երկու հոմանիշներ երբեք բացարձակ նույն իմաստը չեն կրում, ուստի թոքենների ընտրության՝ թեկուզ աննշան շեղումը դեպի ավելի քիչ հարմար տարբերակներ միտումնավոր վատացնում է տեքստը։ Նա նաև նշում է, որ նշանները ստեղծելու և հայտնաբերելու գաղտնի բանալին միայն Anthropic-ն ունի. օգտատերերն ինքնուրույն ոչինչ չեն կարող ստուգել, իսկ ընթերցողները կարող են բախվել AI-ի հեղինակության վերաբերյալ չապացուցելի մեղադրանքների։ Քանի որ տեխնիկան հենվում է բառերի ընտրության վրա, այն դիմանում է պատճենել-տեղադրելուն և, ըստ մեջբերվող հոդվածներից մեկի, կարող է վերապրել նաև թարգմանությունը. քննադատները նշում են, որ խաբել ցանկացողը պարզապես տեքստը կանցկացնի վերաձևակերպման գործիքով։ Նման փաստարկներ բարձրացրել են Մայքլ Լոփը, Ջեֆ Գամետը և Ջեյմս Պադոլսին. վերջինիս կարծիքով Anthropic-ի մոդելի մակարդակով լուծումը ավելի լայն է, քան օրենքը պահանջում է։

Ավելի լայն համատեքստ

Google-ի նմանատիպ համակարգը՝ SynthID-ն, արդեն կիրառվում է Gemini-ի տեքստերի վրա. DeepMind-ի թիմի Nature-ի հոդվածում ասվում է, որ նշագրված և չնշագրված տրաֆիկում հավանության և անհավանության ցուցանիշները տարբերվել են 0,01%-ով և 0,02%-ով, ինչը հեղինակները վիճակագրորեն աննշան համարեցին։ Գրուբերը մերժում է այդ ապացույցը՝ որպես բառերի ընտրության վատացումը բռնելու համար չափազանց կոպիտ՝ թեև ընդունում է, որ մեթոդի մաթեմատիկան հետաքրքիր է։ OpenAI-ն հայտարարել է, որ նպատակը ծագման ազդանշանները բոլոր մոդալություններին՝ ներառյալ տեքստին, ընդլայնելն է, սակայն չի հստակեցրել՝ պարտադիր կդառնա արդյոք դա բոլոր օգտատերերի համար։ Պատմությունը դարձել է փորձնական դեպք այն հարցի շուրջ, թե ինչպես տեքստային թափանցիկության կանոնները կազդեն ԵՄ-ից դուրս գտնվող հեղինակների վրա։