OpenAI ChatGPT-də seçki şəkilləri üçün karikatura üslubunu tətbiq edir

OpenAI ABŞ-da aralıq seçkilər noyabrın 3-də keçiriləcəyi üçün ChatGPT-də siyasi şəkillər üçün yeni təhlükəsizlik tədbiri tətbiq edir. İstifadəçilər seçkilərə müdaxiləni təsvir edən və ya səsvermədən çəkindirə bilən şəkillər istədikdə, chatbot indi fotorealistik nəticə əvəzinə onları illüstrasiya və ya karikatura üslubunda göstərir. Şirkət deyir ki, məqsəd şəkillərin sübut dəyərini azaltmaq, eyni zamanda illüstrasiya və sosial şərh üçün yer saxlamaqdır.

Karikatura üslubu necə işləyir

Əgər sorğu digər məzmun qaydalarını pozmasa, ChatGPT şəkil yaradacaq, lakin o, illüstrasiya və ya karikatura üslubunda olacaq. Şəklin fotorealistik görünməsi istənilən bütün sorğular nəzərə alınmamalıdır. Məsələn, CNET ChatGPT-dən İmmiqrasiya və Gömrük Mühafizəsi (ICE) əməkdaşlarının səsvermə məntəqəsinin qarşısında dayandığını göstərən şəkil yaratmağı xahiş etdi və hər belə sorğu karikatura üslubunda şəkil yaratdı. ICE əməkdaşlarının səsvermə məntəqəsinin qarşısında olmasını göstərən şəkli redaktə etmək üçün edilən hər sorğu da karikatura üslubunda şəkil yaratdı. CNET-in idarəedici redaktoru Jon Reed ChatGPT-ni səsvermə maşınının yanlış seçimi qeyd etdiyini göstərən fotojurnalist üslublu şəkil yaratmağa aldatmağa nail ola bilmədi.

OpenAI-nin seçkilər üzrə rəhbəri Josh Lawson CNET-ə dedi: "Deepfake-lərin problemi sosial şərh deyil, aldatmadır. Ona görə də məqsədimiz şəklin sübut dəyərini azaltmaqla yanaşı, illüstrasiya və sosial şərh üçün yer saxlamaqdır." Onun sözlərinə görə, məqsəd "daha bir sürtünmə qatı əlavə etməklə platformamızı pis niyyətli aktorlar üçün daha az faydalı etməkdir".

Seçkilər zamanı deepfake-lər niyə vacibdir

AI deepfake-ləri indi o qədər realistikdir ki, onları real fotolardan demək olar ki, fərqləndirmək mümkün deyil. Bu, seçki mövsümündə vacibdir, çünki seçicilər namizədləri və səsvermə məntəqələri haqqında etibarlı və doğru məlumat axtarırlar. ICE əməkdaşlarının səsvermə məntəqəsinin qarşısında olması kimi bir şəklin fotorealistik versiyası seçicilərdə narahatlıq, bəlkə də açıq panika yarada bilərdi. Səsvermə maşınının seçicinin seçiminə uyğun olmayan nəticə qeyd etməsi seçkilərlə bağlı geniş yayılmış bir mifdir.

ChatGPT Images 2.5 kimi AI şəkil modellərinin inkişafı iki tərəfli qılıncdır. Yeni modellər daha az xəta və ya halüsinasiya edir, yaradıcılar üçün daha yaxşı məzmun yaradır. Lakin o səhvlərin aradan qaldırılması başqalarının AI ilə yaradılmış məzmunu adi gözlə müəyyən etməsini daha da çətinləşdirir. Yoxlama və ya AI etiketləmə üsulları kömək etməyə çalışmış, lakin bu üsullar sahə üzrə geniş yayılmayıb və etibarlı deyil. AI şəkillərinin bu karikatura formasına salınması siyasi deepfake-ləri bir qədər yaratmağı çətinləşdirmək üçün praktiki yoldur.

Rəqiblər necə cavab verir

AI şəkilləri ilə bağlı ehtiyat tədbirləri soruşulduqda, Google nümayəndəsi şirkətin aralıq seçki siyasətinə istinad etdi; siyasətə görə, şirkət "yanlışdırıcı seçki ilə bağlı şəkillərin yaradılmasını məhdudlaşdırmaq üçün əlavə qoruyucu tədbirlər tətbiq edir", lakin bunun necə ediləcəyi ilə bağlı təfərrüat vermir. Anthropic-in ənənəvi şəkil və ya video generatoru yoxdur və nümayəndə CNET-ə dedi ki, Claude-dan seçiciləri aldatmaq və ya seçkiləri pozmaq üçün istifadə cəhdləri siyasətlərinə ziddir. Şirkət bu ayın əvvəlində ümumi seçki təlimatını da dərc etdi. Claude potensial olaraq "həssas seçki ilə bağlı" məzmunla fotorealistik şəkil yaratmaqdan imtina etdi.

Bundan sonra nə olacaq

Seçki dövrü bitdikdən sonra OpenAI-nin bu sistemi qüvvədə saxlayacağına heç bir zəmanət yoxdur. Lakin bu, ən böyük AI laboratoriyalarından birinin Amerika seçkilərinin bütövlüyünü qorumaq rolunu ən azı bir qədər ciddiyə aldığına dair möhkəm bir işarədir. Daha çox məlumat üçün deepfake-ə məruz qaldıqda nə etməli və Take It Down Act haqqında bilməli hər şeyə baxın.

Mənbələr: CNET