OpenAI ევროკავშირში ChatGPT-ის ტექსტს ნაგულისხმევად წყლის ნიშნით მონიშნავს

OpenAI-მ განაცხადა, რომ ევროკავშირში ChatGPT-ით გენერირებული ტექსტის ავტომატურად წყლის ნიშნით მონიშვნას დაიწყებს. ფუნქცია სხვა რეგიონებშიც იქნება შემოთავაზებული, თუმცა ევროკავშირის გარეთ ნაგულისხმევად გამორთული დარჩება.

ევროკავშირის AI Act-ის მოთხოვნების დაცვა

ამ ნაბიჯს ევროპაში ევროკავშირის AI Act განაპირობებს, რომელიც აგვისტოში ამოქმედდა. კანონი მოითხოვს, რომ ხელოვნური ინტელექტის მოდელების მიერ შექმნილი კონტენტი ისე იყოს მონიშნული, რომ სხვა ხელსაწყომ შეძლოს მისი ამოცნობა. OpenAI-ს თქმით, ახალი წყლის ნიშნით მონიშვნა ევროკავშირის მომხმარებლებს მომდევნო კვირებში მიეწოდებათ, სულ მცირე ChatGPT-ისა და Codex-ის აპებში. API-ში ფუნქცია გამორთული დარჩება, მაგრამ სურვილისამებრ ხელმისაწვდომი იქნება.

როგორ მუშაობს textGrain

OpenAI-ს წყლის ნიშნით მონიშვნის მეთოდი კომპანიის საკუთრებაშია. კომპანია მას textGrain-ს უწოდებს და გამოაქვეყნა ტექნიკური ნაშრომი, რომელიც მის მუშაობას ხსნის. ზოგადად, ის სხვა დიდი ენობრივი მოდელების წყლის ნიშნით მონიშვნის ხელსაწყოების მსგავსად მუშაობს: სიტყვების არჩევანში ისეთ შაბლონებს ათავსებს, რომლებიც ადამიანი მკითხველისთვის შეუმჩნეველია და შედეგის ხარისხს მნიშვნელოვნად არ ცვლის, მაგრამ გასაღების მქონე ადამიანს სპეციალიზებული დეტექტორით შეუძლია მათი პოვნა. OpenAI-ს თქმით, დეტექტორზე წვდომას შეზღუდულ რაოდენობის მკვლევარსა და ორგანიზაციას მისცემს, სხვებისთვის კი დროთა განმავლობაში დაემატება დამტკიცების მოთხოვნის პროცესი.

აღმოჩენის შეზღუდვები

OpenAI-ს textGrain-ის ტესტები აჩვენებს, რომ საუკეთესო შემთხვევაში წარმატებული აღმოჩენის მაჩვენებელი 92% არის, რაც საკმაოდ კარგია, თუმცა სრულად სანდო არა. კომპანიის ტესტები ასევე აჩვენებს, რომ შედეგში ტექსტის მხოლოდ 10% შეცვლა წარმატებული აღმოჩენის მაჩვენებელს თითქმის 30%-ით ამცირებს, ხოლო ტექსტის 20% შეცვლამ შეიძლება წარმატების მაჩვენებელი თითქმის 75%-ით შეამციროს. ზოგადად, წარმატების მაჩვენებელი უფრო დაბალია მოკლე ან თარგმნილ ტექსტზე, ვიდრე გრძელ ტექსტზე.

ინდუსტრიის კონტექსტი

ხელოვნური ინტელექტის მიერ გენერირებული კონტენტის აღმოჩენის სრულად ეფექტური და სანდო გზა ჯერ კიდევ არ არსებობს. უკვე არსებობს რამდენიმე სტანდარტი, მაგალითად SynthID და C2PA პროექტი, თუმცა მათი გვერდის ავლა შედარებით ადვილია ნებისმიერი ადამიანისთვის, ვისაც საბაზისო ცოდნა აქვს, და სავარაუდოდ, იგივე ეხება OpenAI-ს წყლის ნიშანსაც. აგვისტოში OpenAI-ს კონკურენტმა Anthropic-მაც დანერგა წყლის ნიშნით მონიშვნა საკუთარი მოდელებით გენერირებული ტექსტისთვის, მაგრამ Anthropic-მა ის გლობალურად ჩართო, მაშინ როცა OpenAI ამჟამად მას ნაგულისხმევად მხოლოდ იქ აქცევს, სადაც რეგულატორები მოითხოვენ.

წყაროები: Arstechnica