ChatGPT-ის macOS აპლიკაციის ხარვეზი, რომელიც ჰაკერებს მგრძნობიარე მონაცემებზე წვდომას აძლევდა, გამოსწორდა

OpenAI-მ ChatGPT-ის macOS აპლიკაციაში აღმოჩენილი უსაფრთხოების ხარვეზი გამოასწორა. ხარვეზის გამოყენებით თავდამსხმელს მსხვერპლის კომპიუტერზე ChatGPT-ის ხელში ჩაგდება და აპლიკაციის ჩატებზე, შენახულ მონაცემებსა და ბრაუზერის სესიებზე წვდომა შეეძლო. ხარვეზი Objective-See Foundation-ის მკვლევრებმა იპოვეს.

რა აღმოაჩინეს

ChatGPT-ის macOS აპლიკაციის კომპონენტები ერთმანეთს ციფრული ხელმოწერის შემოწმებით უკავშირდებიან, რათა დადგინდეს, რომ მოთხოვნა OpenAI-ს კომპონენტისგან მოდის და არა გარე, მავნე პროგრამისგან. შემოწმება მოთხოვნიდან სამი დონით ზემოთაც ვრცელდება, რათა მავნე კოდმა სანდო კომპონენტი შუამავლად ვერ გამოიყენოს.

მკვლევრებმა დაადგინეს, რომ აპლიკაციაში იყო სანდო კომპონენტი, სკრიპტის ინტერპრეტატორი, რომელიც არასანდო სკრიპტს იღებდა. მისი მანიპულირებით მავნე სკრიპტი ChatGPT-ის მთავარ პროცესში ხვდებოდა. „ისინი ამ პროცესის მშობელსაც და ბაბუასაც ამოწმებენ, მაგრამ მავნე სკრიპტი უბრალოდ სამჯერ უშვებს სკრიპტის ინტერპრეტატორს და შემდეგ აგზავნის მოთხოვნას, რითაც მოთხოვნებს აკმაყოფილებს“, ამბობს Patrick Wardle.

რა შეეძლო თავდამსხმელს

Wardle-ის შეფასებით, ხარვეზის გამოყენება უკიდურესად მარტივი იყო: კონცეფციის დასამტკიცებლად მხოლოდ ათიოდე ხაზი კოდი დასჭირდა. გარდა ჩატებზე წვდომისა, თავდამსხმელს ChatGPT-ის მეშვეობით სხვა ბრძანებების შესრულებაც შეეძლო, მაგალითად ბრაუზერში ან სხვა მგრძნობიარე აპლიკაციაში შეღწევა. ეს მოთხოვნები OpenAI-ს პროგრამის ლეგიტიმურ ინსტრუქციებად აღიქმებოდა.

OpenAI-ს პასუხი

OpenAI-მ ხარვეზი და მისი გამოსწორება 25 სექტემბერს, ცვლილებების ჟურნალში, საჯაროდ დაადასტურა. „ვაგრძელებთ უსაფრთხოების პრაქტიკის განვითარებას, მაგრამ ვაცნობიერებთ, რომ უფრო სწრაფად უნდა ვიმოქმედოთ“, კომპანიის წარმომადგენელმა Shane Bauer-მა Wired-ს განუცხადა.

რატომ არის მნიშვნელოვანი

შემთხვევა აჩვენებს, რომ AI აპლიკაციები თავადაც მიმზიდველი სამიზნეა თავდამსხმელებისთვის: მუშაობისთვის მათ ღრმა სისტემური წვდომა და ნდობა სჭირდებათ. „აგენტებს მუშაობისთვის ბევრი წვდომა სჭირდებათ. ისინი შენობის მმართველს ჰგვანან, რომელსაც ყველა ოთახის გასაღები აქვს. ამიტომ, თუ მათ გატეხავენ ან შეაცვლიან, ეს ძალიან საშიშია და შესაძლოა არასანდო კოდმა ყველაფერზე მიიღოს წვდომა“, ამბობს Wardle.

Wardle ნოემბერში, Apple-ზე ორიენტირებულ უსაფრთხოების კონფერენციაზე Objective by the Sea, AI-ის macOS აპლიკაციებში ნაპოვნი რამდენიმე ხარვეზის ანალიზს წარადგენს. ცოტა ხნის წინ მან უკვე გამოსწორებული ხარვეზი იპოვა Meta-ს ახალი AI ასისტენტის, Muse-ის, კარნახის ფუნქციაში, რომლის მეშვეობითაც ლოკალურ თავდამსხმელს არასწორად დამუშავებული ავტორიზაციის ტოკენზე წვდომა შეეძლო. ChatGPT-ისა და OpenAI-ს ახალი, მუდამ ჩართული AI ასისტენტის Dots-ის ინტეგრაციაზე Wardle-მა კომპანიას ხარვეზის შესახებ უკვე აცნობა, OpenAI კი მოხსენებას განიხილავს.

„AI კომპანიები ახლა ახალი ფუნქციების დამატებაზე არიან ორიენტირებული, თუმცა რაც მეტი ფუნქციაა, მით უფრო ფართოა თავდასხმის ზედაპირი. ამიტომ ყველა მათგანმა უსაფრთხოებაზე უნდა იზრუნოს და, როგორც ჩანს, ის ხშირად მაინც მეორეხარისხოვნად რჩება“, ამბობს Wardle.