OpenAI-ն Եվրոպական միությունում ChatGPT-ի տեքստը լռելյայնորեն ջրանշանով նշում է

OpenAI-ն հայտարարել է, որ Եվրոպական միությունում սկսում է լռելյայնորեն ջրանշանով նշել ChatGPT-ով գեներացված տեքստը: Ֆունկցիան ներկայացվելու է նաև այլ տարածաշրջաններում, սակայն Եվրոպական միությունից դուրս այն լռելյայնորեն անջատված կմնա:

Եվրոպական միության AI Act-ի պահանջների պաշտպանություն

Այս քայլը սահմանում է Եվրոպական միության AI Act-ը, որը ուժի մեջ է մտել օգոստոսին: Օրենքը պահանջում է, որ արհեստական բանականության մոդելներով ստեղծված բովանդակությունը այնպիսի կերպ նշվի, որ այլ գործիքները կարողանան ճանաչել այն: OpenAI-ի խոսքով, նոր ջրանշանով նշումը Եվրոպական միության օգտատերերին կառաջացնեն հաջորդ շաբաթներում՝ առնվազն ChatGPT-ի և Codex-ի հավելվածներում: API-ում ֆունկցիան անջատված կմնա, բայց կլինի հասանելի ըստ ցանկության:

Ինչպես է աշխատում textGrain-ը

OpenAI-ի ջրանշանով նշման մեթոդը ընկերության սեփականությունն է: Ընկերությունը այն կոչում է textGrain և հրապարակել է տեխնիկական աշխատանք, որը բացատրում է դրա աշխատանքը: Ընդհանուր առմամբ, այն աշխատում է նման ձև, ինչ մյուս մեծ լեզվական մոդելների ջրանշանով նշման գործիքները՝ բառերը ընտրելիության ժամանակ տեղադրելով այնպիսի ձևանմուշներ, որոնք աննկատ են մարդ ընթերցողի համար և չեն փոխում արդյունքի որակը, բայց բանալի ունեցող մարդը մասնագիտացված դետեկտորով կարող է գտնել դրանք: OpenAI-ի խոսքով, դետեկտորին հասանելիությունը կտրամադրվի սահմանափակ թվով հետազոտողներին և կազմակերպություններին, իսկ մյուսների համար ժամանակի ընթացքում կավելացվի հաստատման պահանջի գործընթացը:

Հայտնաբերման սահմանափակումներ

OpenAI-ի textGrain-ի թեստերը ցույց են տալիս, որ լավագույն դեպքում հաջող հայտնաբերման ցուցանիշը 92% է, որը բավականին լավ է, թեև լիովին վստահելի չէ: Ընկերության թեստերը նաև ցույց են տալիս, որ արդյունքում տեքստի միայն 10%-ը փոխելը հաջող հայտնաբերման ցուցանիշը մոտ 30%-ով է նվածեցնում, իսկ տեքստի 20%-ը փոխելը կարող է հաջողության ցուցանիշը մոտ 75%-ով նվածեցնել: Ընդհանուր առմամբ, հաջողության ցուցանիշը ավելի ցածր է կարճ կամ թարգմանված տեքստի համար, քան երկար տեքստի համար:

Ոլորտի համատեքստ

Արհեստական բանականությամբ գեներացված բովանդակություն հայտնաբերելու լիովին արդյունավետ և վստահելի եղանակ դեռ գոյություն չունի: Արդեն գոյություն ունեն մի քանի ստանդարտներ, օրինակ՝ SynthID-ը և C2PA նախագիծը, սակայն դրանց կողմից փոխանցումը համեմատաբար հեշտ է ցանկացած մարդու համար, ով հիմնական գիտելիքներ ունի, և հավանաբար նույնը վերաբերում է OpenAI-ի ջրանշանին: Օգոստոսում OpenAI-ի մրցակիցը՝ Anthropic-ը, նույնպես միացրեց ջրանշանով նշումը իր մոդելներով գեներացված տեքստի համար, բայց Anthropic-ը այն միացրեց գլոբալ, մինչ OpenAI-ն այս պահին այն լռելյայնորեն միացնում է միայն այնտեղ, որտեղ կանոնադրությունները պահանջում են:

Աղբյուրներ: Arstechnica