უკან დაბრუნება

მკვლევარმა AI-ის მიწოდების ჯაჭვში 2 მილიონი ციფრული ხაფანგი მოათავსა და კონფიდენციალურობის ხარვეზები აღმოაჩინა
SiTech AI Team3 წთ. საკითხავი

მკვლევარმა AI-ის მიწოდების ჯაჭვში 2 მილიონი ციფრული ხაფანგი მოათავსა და კონფიდენციალურობის ხარვეზები აღმოაჩინა

მკვლევარმა თითქმის ორი მილიონი AI-პრომპტი უნიკალური საიდუმლოებით აავსო და AI-სერვისებსა და მოდელის პროვაიდერებში აღმოაჩინა გაჟონვები, პრომპტების ქურდობა, რესელერების მიერ ლოგირება და კონფიდენციალურობის დროშების უგულებელყოფა.

მკვლევარმა HD Moore-მა AI-პრომპტებში ჩასვა თითქმის ორი მილიონი უნიკალური, მისაკვლევი საიდუმლო და ისინი AI-სერვისების ფართო ქსელის გავლით გააგზავნა. შედეგად მან აღმოაჩინა უსაფრთხოების დარღვევები, პრომპტების ქურდობა და მომხმარებელთა მონაცემების დაცვის მასობრივი ხარვეზები. HD Moore-მა, უსაფრთხოების კომპანია Dragos-ის მთავარი კვლევითი ოფიცერი, ხუთშაბათს დაწერა ამ აღმოჩენების შესახებ.

როგორ მუშაობდა ექსპერიმენტი

Moore-მა მოამზადა ცარიელ ანგარიშებზე მიბმული AWS-ის წვდომის გასაღებები, პაროლები ისეთი სერვისებისთვის, როგორიცაა SSH, და უნიკალური URL-ები, DNS-ის სახელები და კერძო git-რეპოზიტორიების მითითებები. ყველა მათგანი აქამდე არასდროს გამოყენებულა და ის აკონტროლებდა ინფრასტრუქტურას, რომელიც მათი გამოყენებით გაგზავნილ მოთხოვნებს იღებდა. თითოეული საიდუმლო მან ზუსტად ერთ პრომპტში ჩასვა, რომელიც ერთ პროვაიდერს გაეგზავნა.

ბევრი AI-აპი იყენებს OpenRouter-ის ან Vercel-ის მსგავს სერვისებს ბროკერებად, რომლებსაც AI-როუტერებს ან გეითვეებსაც უწოდებენ და რომლებიც პრომპტებს ინფერენსის ძრავებამდე ამისამართებენ. პრომპტები ტრანზიტის დროს დაშიფრულია, მაგრამ ყოველ გადასვლაზე განიშიფრება, და დიდი ალბათობით, თითოეული მოქმედი მხარე მათ პოლიტიკის შესაბამისად ლოგავს და ინახავს.

დარღვევები, რესელერები და კონფიდენციალურობის დროშები

მინიმუმ სამი AI-პროვაიდერი გატეხეს თავდამსხმელებმა, რომლებმაც პრომპტები მოიპარეს. ერთმა თავდამსხმელმა ხელახლა გამოიყენა დაახლოებით ორასი AWS-ის გასაღები და ოქტომბრის ბოლოს გარკვეულ დროის ფანჯრებში გაგზავნილი ყველა მოთხოვნა მოიპარა. ზოგიერთი გასაღები იმ მოთხოვნებიდან იყო, რომლებიც მოდელის გაშვებამდე უარყვეს, რაც იმაზე მიუთითებს, რომ კოპირება პროვაიდერის შესასვლელში მოხდა.

რამდენიმე რესელერი ლოგავდა პრომპტებს და გადასცემდა მათ ადამიანებს, რომლებიც ამ ავტორიზაციის მონაცემებს იყენებდნენ. Moore-მა ისინი იმით ამოიცნო, რომ ერთი და იმავე მოდელის მიმართ მოთხოვნები სხვადასხვა გამყიდველის მეშვეობით გაგზავნა. ზოგიერთმა პროვაიდერმა ასევე არ გაითვალისწინა კონფიდენციალურობის დროშები, როგორიცაა „Zero Data Retention“ ან „no data collection“.

კიდევ ორი დარღვევის შემთხვევაში ზოგიერთ მოპარულ მოთხოვნას ჰქონდა ნიშანი „Zero Data Retention“. თავდამსხმელები ამოწმებდნენ გასაღებებს, ზოგჯერ რამდენიმე საათში, ეძებდნენ S3-ის ბაკეტებში, საიდუმლოებების მენეჯერებში და პარამეტრების საცავებში, ცდილობდნენ AWS Bedrock-ში ჰოსტირებული მოდელების ჩართვას და ამატებდნენ საკუთარ IAM-ის მომხმარებლებს. მოპარული გასაღებები AWS API-ის გამოძახებებში ათიათასობით ჯერ გამოიყენეს.

URL-ების სკრაპინგი და OpenRouter-ის განახლება

ჩინურმა AI-ლაბორატორიამ ივლისიდან ოქტომბრამდე მის მოდელებზე გაგზავნილი პრომპტების ნახევარზე მეტიდან საიდუმლო URL-ები ამოიღო; მათგან დაახლოებით ორი მესამედს ჰქონდა „no data collection“ ან „Zero Data Retention“ ნიშანი. სკრაპერი ჩვეულებრივ ორი ან სამი დღის შემდეგ ჩნდებოდა. რამდენიმე ამერიკული ჰოსტინგ-პროვაიდერი ამ ლაბორატორიის მოდელებს ხელახლა ყიდის და მათთან გაგზავნილი პრომპტები იმავე სკრაპერს ააქტიურებდა.

მოგვიანებით git-კლიენტმა სცადა პრომპტებში მითითებული კერძო რეპოზიტორიების კლონირება, მაგრამ მხოლოდ იმ პრომპტებისთვის, რომლებიც ამ ლაბორატორიის მოდელებს იყენებდნენ. ერთმა ამერიკულმა ჰოსტინგ-პროვაიდერმა საიდუმლო URL-ის სკრაპინგი ერთი ინფერენსის გამოძახებიდან ორ თვეზე მეტ ხანში გააკეთა, ხოლო მეორე ყოველი მოთხოვნიდან დღეების შემდეგ უბრუნდებოდა URL-ებს.

OpenRouter-მა მომხმარებლებს აცნობა, რომ ზოგიერთი პრომპტი შესაძლოა წაკითხულიყო, და მიუთითა ამ კვლევაზე. პოტენციური გამჟღავნება ეხებოდა MiniMax-ისთვის გაგზავნილ პრომპტებს; MiniMax ჩინეთში დაფუძნებული მოდელის პროვაიდერია, ხოლო პრომპტები მას პირდაპირ ან რესელერების AtlasCloud-ის, Novita-ის და StreamLake-ის მეშვეობით გაუგზავნეს. OpenRouter-მა MiniMax-ის მოდელების endpoint-ებიდან „Zero Data Retention“ ნიშანი მოხსნა.

რა შეუძლიათ მომხმარებლებს

გაჟონვის თავიდან ასაცილებლად ყველაზე ეფექტური გზა მოდელების საკუთარ ინფრასტრუქტურაზე ჰოსტინგია, თუმცა ეს ძვირია. წინააღმდეგ შემთხვევაში, Moore გვირჩევს, სერვისი უშუალოდ პირველი დონის პროვაიდერისგან მივიღოთ, ერთი კონტრაქტით და კონფიდენციალურობის პოლიტიკით. ეს არ იძლევა გაჟონვისგან სრულ გარანტიას, მაგრამ ამცირებს შანსებს. მომხმარებლებმა ასევე უნდა აირიდონ ნაგულისხმევი პროვაიდერის ან რესელერების პულები და თავად აირჩიონ ის პროვაიდერები, რომლებიც მოდელებს უშუალოდ აწვდიან.

წყაროები: Ars Technica · Techmeme

გააზიარე ციფრული გამოცდილება

SiTech

SiTech — AI-გაძლიერებული ვებ დეველოპმენტი

ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.