OpenAI Avropa Ittifaqında ChatGPT mətnini susmara su işarəsi ilə işarələyir

OpenAI elan etdi ki, Avropa Ittifaqında ChatGPT ilə yaradılmış mətni avtomatik olaraq su işarəsi ilə işarələyəcək. Funksiya digər regionlarda da təklif ediləcək, lakin Avropa Ittifaqından kənar susmara söndürülmüş qalacaq.

Avropa İttifaqının AI Act tələblərinin yerinə yetirilməsi

Bu addımı Avropa İttifaqının AI Act tənzimləyir, ki, avqustda qüvvəyə minib. Qanun tələb edir ki, süni intellekt modelləri tərəfindən yaradılmış məzmun elə işarələn ki, digər alət onu aşkarlaya bilsin. OpenAI-nin sözünə görə, yeni su işarəsi ilə işarələmə Avropa Ittifaqı istifadəçilərinə gələn həftələrdə təqdim ediləcək, ən azı ChatGPT və Codex tətbiqlərində. API-də funksiya söndürülmüş qalacaq, lakin istəyə əsasən əlçatan olacaq.

textGrain necə işləyir

OpenAI-nin su işarəsi ilə işarələmə metodu şirkətin mülkiyyətidir. Şirkət onu textGrain adlandırır və onun işini izah edən texniki iş dərc etdirib. Ümumiyyətlə, o, digər böyük dil modellərinin su işarəsi ilə işarələmə alətlərinə oxşar işləyir: sözlərin seçimində insan oxucu üçün hiss olunan şablonlar yerləşdirir və nəticə keyfiyyətini əhəmiyyətli dərəcədə dəyişmir, lakin açarı olan insan ixtisaslaşmış detektor ilə onları tapa bilər. OpenAI-nin sözünə görə, detektor girişi məhdud sayda araşdırmaçıya və təşkilata veriləcək, digərləri üçün isə zamanla təsdiq etmə tələbi əlavə ediləcək.

Aşkarlanmanın məhdudiyyətləri

OpenAI-nin textGrain testləri göstərir ki, ən yaxşı halda uğurlu aşkarlanma göstəricisi 92%-dir, ki, bu kifayət qədər yaxşıdır, lakin tam etibarlı deyil. Şirkətin testləri həm də göstərir ki, nəticədə mətnin yalnız 10%-nin dəyişdirilməsi uğurlu aşkarlanma göstəricisini təxminən 30% azaldır, mətnin 20%-nin dəyişdirilməsi isə uğur göstəricisini təxminən 75% azalda bilər. Ümumiyyətlə, uğur göstəricisi qısa və ya tərcümə edilmiş mətndə uzun mətndən daha aşağıdır.

Sektor konteksti

Süni intellekt tərəfindən yaradılmış məzmunun aşkarlanmasının tamamilə effektiv və etibarlı yolu hələ mövcud deyil. Artıq bir neçə standart mövcuddur, məsələn SynthID və C2PA layihəsi, lakin onların arxasının açılması əsas bilikləri olan hər bir insan üçün nisbətən asandır və ehtimal ki, eyni şey OpenAI-nin su işarəsinə də təsir edir. Avqustda OpenAI-nin rəqibi Anthropic öz modelləri ilə yaradılmış mətn üçün su işarəsi ilə işarələmə tətbiq etdi, lakin Anthropic onu qlobal səviyyədə işə salıb, hal-hazırda OpenAI isə onu susmara yalnız regulatorların tələb etdiyi yerdə işə salır.

Mənbələr: Arstechnica