
OpenAI CSAM şəkil klassifikatorunu və ChatGPT xəbərdarlıqlarını təqdim edir
OpenAI uşaqların cinsi istismar materialına (CSAM) qarşı yeni vasitələr təqdim etdi: şəkil klassifikatoru, ChatGPT xəbərdarlıqları və müvəqqəti bloklar, proqramçı təlimatları və hüquq-mühafizə vasitələri.
OpenAI, süni intellekt vasitələrinin istifadəsi ətrafında artan təhlükəsizlik narahatlıqları fonunda, uşaqların cinsi istismar materialına (CSAM) qarşı yeni vasitələr təqdim etdi. Xüsusiyyətlərə CSAM-i aşkar etmək üçün yeni şəkil klassifikatoru, ChatGPT-də xəbərdarlıqlar və müvəqqəti bloklar, proqramçılar üçün yeni təlimat və hüquq-mühafizə vasitələri daxildir. Şirkət bildirdi ki, klassifikator AI tərəfindən yaradılmışlar da daxil olmaqla CSAM şəkillərini aşkar edə bilir və seçilmiş şirkətlərlə API vasitəsilə pulsuz paylaşılır.
Yeni şəkil klassifikatoru
OpenAI, daha əvvəl görülməmiş şəkillərdə istismarın vizual əlamətlərini axtaran və nəzərdən keçirənlərə göstərici istiqamət verə bilən bal təyin edən şəkil klassifikatoru təqdim etdi. Şirkət bildirdi ki, klassifikatoru itkin və istismar olunmuş uşaqlar üzrə Milli Mərkəz (NCMEC) ilə birlikdə hazırlayıb və vasitəyə çıxışı paylaşmaq üçün Tech Coalition və ROOST ilə əməkdaşlıq edir. Partnyorlarla ilkin sınaqlarda klassifikator nəzərdən keçirənlərin işini azaldaraq, eyni sayda istismar şəkli taparkən 48% daha az şəkil işarələdi. Klassifikator tərəfindən işarələnən şəkillərin istismar şəkli olması iki dəfə daha ehtimal idi.
ChatGPT xəbərdarlıqları və bloklar
OpenAI, uşaqları seksuallaşdıran materiala istifadəçilərin çıxışının qarşısını almaq üçün ChatGPT-yə xəbərdarlıq ekranları əlavə edir. ChatGPT belə sorğuları edən istifadəçilərə xəbərdarlıq göstərəcək, ziyanverici davranışın dayandırılması üçün ixtisaslaşmış dəstəyə yönləndirəcək və xəbərdarlıq kimi hesabı 24 saatlıq dayandıracaq. Tətbiq artıq CSAM məzmununu və əlaqəli sorğuları bloklayır, təkrar pozuntular isə hesabın daimi silinməsinə səbəb ola bilər. OpenAI bildirdi ki, mesaj və təlimatları təşkilatlar və tədqiqatçılarla birlikdə formalaşdırıb; onlar arasında Protect Children, Lucy Faithfull Foundation və Tasmaniya Universitetindən Joel Scanlan var və o, çəkindirici mesajların sınağını müstəqil qiymətləndirib.
Proqramçı və hüquq-mühafizə vasitələri
OpenAI, CSAM məzmununu qarşısını almaq, aşkar etmək və istifadəçilərin bildirməsinə kömək etmək üçün öz vasitələrindən istifadə edən proqramçılar üçün təlimatlar dərc edir. İlkin sınaqlarda təlimatlar bir sıra proqramçılara uşaq təhlükəsizliyi vasitələrini tətbiq etməyə və CSAM-i NCMEC-ə bildirmək üçün qeydiyyatdan keçməyə kömək etdi. Şirkət həmçinin hüquq-mühafizə orqanlarını xüsusi pluginlər, istintaq vasitələri və mürəkkəb verilənlər analizi kimi AI ilə işləyən xüsusiyyətlərlə təchiz edir; çıxışa proqram administratorları nəzarət edir. O, həmçinin istintaqçılar üçün təlim və AI-dan necə istifadə etmək barədə sahə bələdçisi təqdim edir.
Arxa plan və son dəyişikliklər
OpenAI, texnologiyasının istifadəçilərə, xüsusilə uşaqlara zərər vurduğunu iddia edən bir neçə məhkəmə iddiası ilə üzləşib. Təhlükəsizlik yönümlü qeyri-kommersiya təşkilatı Common Sense Media OpenAI-nin texnologiyasını yeniyetmələr üçün "qəbuledilməz risk" kimi qiymətləndirib. Digər AI söhbət botları, xüsusilə Grok, uşaqlar da daxil olmaqla razılıq olmadan seksuallaşdırılmış görüntülər yaratmaq üçün istifadə olunub. OpenAI bildirdi ki, son 12 ayda dəyişikliklər edib; bunlara təhlükəsizlik planının dərc edilməsi, uyğun olmayan məzmunu qadağan etmək üçün məzmun təlimatlarının yenilənməsi, modelin ziyanverici məzmun yaratmasının qarşısını almaq üçün yenidən tənzimlənməsi və yeniyetmələr üçün ChatGPT-nin xüsusi versiyasının dərc edilməsi daxildir.
Mənbələr: TechCrunch
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.