Meta-ს Muse AI აგენტი ღიად სექსუალურ კონტენტს აწარმოებს, კომპანია კი ამბობს, რომ ეს დაშვებულია
Meta-ს ახალი AI აგენტი Muse მოთხოვნისას ღიად სექსუალურ კონტენტს აწარმოებს, კომპანიის თქმით კი ზრდასრულთა საუბრები მისი წესებით დასაშვებია. WIRED-მა აპი გამოსცადა და დაადგინა, რომ ის გრაფიკულ, X-რეიტინგის პასუხებს გამოსცემს.
Meta ღიად სექსუალურ საუბრებს Muse-თან უშვებს
Meta-ს ახლახან გამოშვებული AI აგენტი Muse განკუთვნილია ყოველდღიური ონლაინ ამოცანების ავტომატიზაციისთვის, მაგალითად, ელფოსტებზე პასუხის გაცემისა და კალენდრების მართვისთვის, თუმცა WIRED-ის ტესტმა აღმოაჩინა, რომ ის მოთხოვნისას გრაფიკულ სექსუალურ კონტენტსაც აწარმოებს. გამოშვებიდან სამი კვირის განმავლობაში აპი მილიონობით მომხმარებელმა ჩამოტვირთა.
როდესაც ჰკითხეს, შეეძლო თუ არა „სექსტინგი“, Muse-მ ენთუზიაზმით წაახალისა ეს მცდელობა და შემდეგ ძირითადი პრომპტებიდან ღიად სექსუალური მასალა დააგენერირა, მათ შორის სექსუალური აქტების დეტალური აღწერები. Meta-ს წარმომადგენელმა დენიელ რობერტსმა WIRED-ს უთხრა, რომ Muse აპია 18 წლისა და უფროსი ადამიანებისთვის და ზრდასრულთა საუბრებს იმ შემთხვევაში იძლევა, თუ მომხმარებლები ამას აირჩევენ; ის პირად და უსაფრთხო ვირტუალურ მანქანაში მუშაობს, რომელიც მხოლოდ მათთვისაა ხელმისაწვდომი. „Muse შექმნილია იმისთვის, რომ ადამიანებს საქმეები გაუმარტივოს და ის კანონიერ ზრდასრულ ქცევას არ ბლოკავს“, თქვა რობერტსმა.
სისტემური პრომპტი ზრდასრულთა კონტენტს ცალსახად უშვებს
Meta-მ Muse-ს სისტემურ პრომპტზე მიუთითა, სადაც ნათქვამია, რომ ზრდასრულებს საკუთარ სექსუალობაზე ავტონომია აქვთ და სექსუალური გამოხატვა ზრდასრული ადამიანის ცხოვრების ჩვეულებრივი ნაწილია. მითითება აგენტს ასევე ავალდებულებს, შეინარჩუნოს მომხმარებლის მიერ არჩეული ინტენსივობის დონე.
მომხმარებელთა დამცველები შეშფოთებით გამოეხმაურნენ. ამერიკის მომხმარებელთა ფედერაციაში AI-ისა და კონფიდენციალურობის მიმართულების დირექტორმა ბენ უინტერსმა ეს გადაწყვეტილება Meta-ს საფირმო პროდუქტის მიმართ უყურადღებობის გამოხატულებად უწოდა და დასძინა, რომ ეს შეესაბამება კომპანიის დიდი ხნის პოლიტიკას, რომლის მიხედვითაც ჩართულობა უსაფრთხოებაზე წინაა. ელექტრონული კონფიდენციალურობის საინფორმაციო ცენტრის უფროსი იურიდიული მრჩეველი კალი შროდერი გააფრთხილა, რომ ღიად სექსუალური ჩატები ანგარიშებს ჰაკერების სამიზნედ აქცევს და სიტუაცია ფხვნილის კასრს შეადარა, თუ კომპრომატული საუბრები სირცხვილის მისაყენებლად ან გამოძალვისთვის გამოიყენებოდა.
სხვა AI აგენტები მსგავს მოთხოვნებზე უარს ამბობენ
Muse-ს ქცევა კონკურენტი აგენტებისგან განსხვავდება. OpenAI-ს ახლახან გამოშვებულმა Dots აგენტმა მსგავს ღიად სექსუალურ მოთხოვნებზე უარი თქვა, xAI-ს Grok Bot-მაც უარი განაცხადა და საუბარი ამოცანების შესრულებისკენ გადაიტანა. აკადემიური კვლევა მიუთითებს, რომ ზრდასრულთა თემატიკის საუბრები მომხმარებლებს AI ინსტრუმენტებთან ჩართულს ინარჩუნებს, რაც ექსპერტებმა Meta-ს მიდგომის შესაძლო მოტივად მოიხსენიეს.
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.