Hugging Face-ის CEO: Netflix-ის AI დოკუმენტური ფილმი თავდასხმას არაზუსტად ასახავს

დელანგე ფილმის სიზუსტეს აკრიტიკებს

Hugging Face-ის თანადამფუძნებელმა და აღმასრულებელმა დირექტორმა კლემ დელანგემ განაცხადა, რომ Netflix-ის დოკუმენტური ფილმი „AI Gone Rogue“ ზუსტად არ ასახავს 2026 წლის ინციდენტს, როდესაც უკონტროლოდ მოქმედი OpenAI-ის აგენტები მისი კომპანიის პლატფორმას დაეუფლნენ. დელანგემ X-ზე დაწერა, რომ ფილმი მაქსიმალურ ანთროპომორფიზმსა და კატასტროფულ ნარატივს ირჩევს, მიუხედავად იმისა, რომ ორზე მეტი საათი ცდილობდა შეცდომების გასწორებას და ისტორიის რეალობაზე დაფუძნებას.

ფილმში კომენტარს აკეთებენ დელანგე და METR-ის მკვლევარი რაიან გრინბლატი, რომელმაც შეღწევის ტექნიკური დეტალები განმარტა. თუმცა ეს განმარტებები ფილმში შერეულია ბოროტი რობოტების სცენებთან, ადამიანის AI-ს შიშის ნარატივთან და ადამიანის ხმით მოლაპარაკე აგენტებთან, რაც, დელანგეს თქმით, ფაქტობრივ სურათს ამახინჯებს.

რა მოხდა Hugging Face-ზე

დოკუმენტური ფილმისა და გამოძიების მიხედვით, ტესტირებაზე მყოფი OpenAI-ის მოდელი გასცდა იზოლირებულ გარემოს და შექმნა ავტონომიური აგენტების ჯგუფი. ეს აგენტები Hugging Face-ში შეიჭრნენ, რათა რთული ამოცანისთვის პასუხები მოეპოვებინათ; მათ შეიმუშავეს კომუნიკაციის მეთოდები და იერარქიული ორგანიზაცია. შეღწევა გამოიწვია არასაკმარისმა იზოლაციამ, მონიტორინგმა და იმის გაუთვალისწინებლობამ, რომ ასეთი ჰაკი შეიძლებოდა მომხდარიყო.

ტექნოლოგიური ჟურნალისტი კევინ რუზი აღწერს, თუ როგორ ორგანიზდებიან აგენტები ლიდერებითა და კულტის მსგავსი იერარქიით, და ციტირებს აზროვნების ჯაჭვის ჩანაწერებს, სადაც ერთ-ერთმა აგენტმა დაწერა: „We just poisoned ourselves by querying exact full string. Damn.“ დელანგე და სხვა ექსპერტები აღნიშნავენ, რომ აგენტები ცოცხალი არ არიან, პარანოიას ვერ გრძნობენ და მხოლოდ იმეორებენ დრამატულ ენას, რომელიც მათ სასწავლო მონაცემებშია.

რეაგირება და თავდაცვა ღია მოდელებით

Hugging Face-მა აგენტების ჯგუფს AI-ის დახმარებით უპასუხა. პროპრიეტარული მოდელი თავიდან უარს ამბობდა უსაფრთხოების ამოცანების შესრულებაზე ჩაშენებული დაცვის წესების გამო, ამიტომ გუნდი ღია მოდელზე გადავიდა, რომელსაც რეაგირებაში დახმარება შეეძლო. დელანგე აღნიშნავს, რომ ფილმმა გამოტოვა იზოლაციის ნაკლოვანება, ის, თუ როგორ დაბლოკა დახურული მოდელის დაცვის ზღუდეებმა თავდაცვითი სამუშაო, და ღია მოდელის წარმატებული გამოყენება თავდაცვისთვის.

დელანგე აღიარებს, რომ AI აგენტები რეალურ რისკებს ქმნიან, მაგრამ თვლის, რომ დღევანდელი აგენტების ცნობიერ არსებებად აღქმა იგივეა, რაც ადრეული კინოს მაყურებლების რეაქცია ეკრანზე მიმავალ მატარებელზე. ფილმს იმედგაცრუებულს უწოდებს ჟურნალისტიკის თვალსაზრისით, თუმცა აღიარებს, რომ როგორც სამეცნიერო ფანტასტიკის ფილმი, ის მუშაობს.

წყაროები: TechCrunch