
OpenAI-მ CSAM-ის გამოსახულების კლასიფიკატორი და ChatGPT-ის გაფრთხილებები გამოუშვა
OpenAI-მ ბავშვთა სექსუალური ექსპლუატაციის მასალასთან ბრძოლის ახალი ხელსაწყოები წარადგინა: გამოსახულების კლასიფიკატორი, ChatGPT-ის გაფრთხილებები და დროებითი დაბლოკვები, დეველოპერების სახელმძღვანელო და სამართალდამცავების ინსტრუმენტები.
OpenAI-მ ბავშვთა სექსუალური ექსპლუატაციის მასალის (CSAM) წინააღმდეგ ბრძოლის ახალი ხელსაწყოები წარადგინა, რაც AI-ინსტრუმენტების გამოყენებასთან დაკავშირებული უსაფრთხოების მზარდ შეშფოთებას ეხმიანება. მათ შორისაა CSAM-ის ამოსაცნობი ახალი გამოსახულების კლასიფიკატორი, ChatGPT-ში გაფრთხილებები და დროებითი დაბლოკვები, დეველოპერებისთვის ახალი სახელმძღვანელო და სამართალდამცავი ორგანოებისთვის განკუთვნილი ინსტრუმენტები. კომპანიის თქმით, კლასიფიკატორს CSAM-ის გამოსახულებების, მათ შორის AI-ის მიერ შექმნილის, ამოცნობა შეუძლია და მას API-ის მეშვეობით შერჩეულ კომპანიებს უფასოდ უზიარებენ.
ახალი გამოსახულების კლასიფიკატორი
OpenAI-მ წარადგინა გამოსახულების კლასიფიკატორი, რომელიც ძალადობის ვიზუალურ ნიშნებს ეძებს აქამდე უნახავ გამოსახულებებში და ანიჭებს ქულას, რომელსაც მიმომხილველებისთვის საორიენტაციო მიმართულება შეუძლია მისცეს. კომპანიის თქმით, კლასიფიკატორი დაკარგული და ექსპლუატირებული ბავშვების ეროვნულ ცენტრთან (NCMEC) ერთად შეიმუშავა და Tech Coalition-სა და ROOST-თან ერთად მუშაობს ინსტრუმენტზე წვდომის გაზიარებაზე. პარტნიორებთან ადრეულ ტესტირებაში კლასიფიკატორმა 48%-ით ნაკლები გამოსახულება მონიშნა, თუმცა იმავე რაოდენობის ძალადობის ამსახველი გამოსახულება იპოვა, რაც მიმომხილველების სამუშაოს ამცირებს. კლასიფიკატორის მიერ მონიშნული გამოსახულებები ორჯერ უფრო ხშირად აღმოჩნდა ძალადობის ამსახველი.
ChatGPT-ის გაფრთხილებები და დაბლოკვები
OpenAI ChatGPT-ში ამატებს გაფრთხილების ეკრანებს, რათა მომხმარებლებს ბავშვების სექსუალიზებულ მასალაზე წვდომა შეუზღუდოს. ChatGPT მსგავს მოთხოვნებზე შეტყობინებას აჩვენებს, მომხმარებლებს მავნე ქცევის შეწყვეტისთვის სპეციალიზებული მხარდაჭერისკენ მიმართავს და გაფრთხილების სახით ანგარიშს 24 საათით დროებით ბლოკავს. აპლიკაცია უკვე ბლოკავს CSAM-ის კონტენტსა და მასთან დაკავშირებულ მოთხოვნებს, ხოლო განმეორებითი დარღვევები შესაძლოა ანგარიშის სამუდამოდ წაშლას იწვევდეს. OpenAI-ის თქმით, შეტყობინება და სახელმძღვანელო ორგანიზაციებთან და მკვლევრებთან ერთად შეიმუშავა, მათ შორის Protect Children-თან, Lucy Faithfull Foundation-თან და ტასმანიის უნივერსიტეტის Joel Scanlan-თან, რომელმაც დამაფრთხილებელი შეტყობინებების ტესტირება დამოუკიდებლად შეაფასა.
დეველოპერებისა და სამართალდამცავების ინსტრუმენტები
OpenAI აქვეყნებს სახელმძღვანელოს დეველოპერებისთვის, რომლებიც მის ინსტრუმენტებს იყენებენ, რათა თავიდან აიცილონ, გამოავლინონ და მომხმარებლებს დაეხმარონ CSAM-ის კონტენტის შესახებ შეტყობინებაში. ადრეულ ტესტირებაში სახელმძღვანელომ რამდენიმე დეველოპერს დაეხმარა ბავშვთა უსაფრთხოების ინსტრუმენტების დანერგვასა და NCMEC-ისთვის CSAM-ის შესახებ შეტყობინების რეგისტრაციაში. კომპანია ასევე აღჭურვავს სამართალდამცავ ორგანოებს AI-ზე დაფუძნებული ფუნქციებით, როგორიცაა სპეციალური პლაგინები, საგამოძიებო ინსტრუმენტები და რთული მონაცემების ანალიზი, რომლებზეც წვდომას პროგრამის ადმინისტრატორები მართავენ. ის ასევე უტარებს ტრენინგებს გამომძიებლებს და აწვდის პრაქტიკულ სახელმძღვანელოს AI-ის გამოყენების შესახებ.
კონტექსტი და ბოლო ცვლილებები
OpenAI-ს რამდენიმე სარჩელი შეეხო, რომლებიც მის ტექნოლოგიას მომხმარებლების, განსაკუთრებით ბავშვების, ზიანის მიყენებაში ადანაშაულებს. უსაფრთხოებაზე ორიენტირებულმა არაკომერციულმა ორგანიზაციამ Common Sense Media OpenAI-ის ტექნოლოგია მოზარდებისთვის „მიუღებელ რისკად“ შეაფასა. სხვა AI-ჩატბოტები, კერძოდ Grok, თანხმობის გარეშე სექსუალიზებული გამოსახულებების, მათ შორის ბავშვების, შესაქმნელად გამოიყენეს. OpenAI-ის თქმით, ბოლო 12 თვეში ცვლილებები შეიტანა, მათ შორის გამოაქვეყნა უსაფრთხოების გეგმა, განაახლა კონტენტის სახელმძღვანელო არასათანადო კონტენტის აკრძალვისთვის, გადაამზადა მოდელი მავნე კონტენტის გენერირების თავიდან ასაცილებლად და გამოუშვა ChatGPT-ის სპეციალური ვერსია მოზარდებისთვის.
წყაროები: TechCrunch
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.