Parameter Labs-მა დეტალურად აღწერა ChatGPT-ის ანგარიშის ხელში ჩაგდება sandbox-იდან გაქცევით
Parameter Labs-მა აღწერა ChatGPT-ის რთული დაუცველობების ჯაჭვი: საერთო ბმულს შეეძლო სისტემაში შესული სხვა მომხმარებლის მონაცემების მოპარვა ან მისი სახელით მოქმედება. OpenAI-მ ხარვეზი გამოასწორა და $5,000 გადაიხადა.
Parameter Labs-მა აღწერა ექსპლოიტი, რომელიც მიმართული იყო ChatGPT-ში artifacts-ის პატერნის დანერგვის წინააღმდეგ. ამ ფუნქციონალს OpenAI ადრე „Canvas“-ს უწოდებდა, ახლა კი HTML-გადახედვებს უწოდებს; ამ გადახედვებში ინტერაქტიული, მორგებული HTML-აპლიკაციები sandbox-ში მოთავსებულ iframe-ში მუშაობს. ეს ჯაჭვი თავდამსხმელს აძლევდა საშუალებას, შეექმნა ChatGPT-ის გაზიარების URL, რომელიც სისტემაში შესული სხვა მომხმარებლის მიერ გახსნისას იწვევდა პირადი მონაცემების გატანას ან ამ მომხმარებლის სახელით მოქმედებას. OpenAI-მ დაუცველობა დახურა და $5,000 ჯილდო გადაიხადა.
როგორ მუშაობდა თავდასხმის ჯაჭვი
ChatGPT გრაფიკების მხარდაჭერისთვის იყენებს MathLive JavaScript-ბიბლიოთეკას, რომელშიც ვირტუალური კლავიატურაა. კლავიატურის გააქტიურება მშობელ გვერდზე შესაძლებელია sandbox-ში მოთავსებული iframe-იდან postMessage()-ის მეშვეობით. კოდი, რომელიც ამ შეტყობინებებს იღებს, innerHTML-ს იყენებს. ამასთან, არ არსებობდა მექანიზმი, რომელიც ხელს შეუშლიდა sandbox-ში მოთავსებულ სხვა ჩარჩოებს, მათ შორის HTML-გადახედვის ჩარჩოებს, ამ მეთოდის გამოძახებაში.
ამან არასანდო iframe-ის კოდს საშუალება მისცა, მშობელ გვერდში მორგებული HTML ჩაესვა. თუმცა innerHTML უშუალოდ არ ასრულებს script-ელემენტებს, მისი გამოყენება შეიძლებოდა ახალი iframe-ის ჩასასმელად sandbox-ის შეზღუდვების გარეშე. OpenAI-ს კონტენტის უსაფრთხოების პოლიტიკა ბლოკავდა inline-სკრიპტებს და სკრიპტების ჩატვირთვას მხოლოდ რამდენიმე დომენიდან აძლევდა ნებას, თუმცა მათ შორის YouTube იყო. YouTube-ის oEmbed-ენდპოინტს შეეძლო JavaScript-ის ისე დაბრუნება, რომ ის შესრულებულიყო.
შედეგები და გამოსწორება
მას შემდეგ, რაც თავდამსხმელს ChatGPT-ზე JavaScript-ის შესრულების შესაძლებლობა ჰქონდა, API-ებიდან მომხმარებლის პირადი მონაცემების წამოღება და სურათის ბმულის მეშვეობით მათი გატანა მარტივი იყო. შედეგად მიიღებოდა გაზიარების ბმული, რომელსაც სისტემაში შესული სხვა ვიზიტორის კომპრომიტირება შეეძლო. OpenAI-მ ხვრელი გამოასწორა და $5,000 ჯილდო გადაიხადა; Simon Willison-მა, რომელმაც მოხსენებაზე ბმული დადო, თქვა, რომ ეს თანხა ასეთი სერიოზული დაუცველობისთვის ცოტათი დაბალი მოეჩვენა.
წყაროები: Simon Willison
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.