მეთიუ გრინის პროგნოზი: AI ხარვეზების ძიება სამართალდამცავებს ბექდორებისკენ უბიძგებს

ჯონს ჰოპკინსის უნივერსიტეტის კრიპტოგრაფმა მეთიუ გრინმა 14 აგვისტოს გამოქვეყნებულ ბლოგპოსტში ახსნა, რატომ იწვევს ხელოვნური ინტელექტის მიერ უსაფრთხოების ხარვეზების მასობრივ ძიებას სამართალდამცავი და სადაზვერვო უწყებების შესაძლებლობების შემცირება.

ზარებიდან დაშიფრულ შეტყობინებებამდე

გრინი იხსენებს, რომ 2000-იანი წლების ბოლოს სმარტფონებმა და შეტყობინებებმა შეცვალეს ზედამხედველობის სურათი: ტელეფონები მონაცემებს ინახავდნენ და არა მხოლოდ გადასცემდნენ. 2010 წელს Apple-მა iPhone-ის მეხსიერების დაშიფვრა დაიწყო მომხმარებლის პაროლიდან გამოტანილი გასაღებით, მალე Android-იც მიჰყვა, ხოლო 2011 წელს iPhone-ის შეტყობინებებში ბოლოდან ბოლომდე დაშიფვრა დაინერგა. 2014 წლისთვის WhatsApp-ს 600 მილიონი მომხმარებელი ჰყავდა, 2016 წლისთვის კი მილიარდამდე — ყველა ნაგულისხმევად დაშიფრული შეტყობინებებითა და ზარებით. 2014 წელს FBI-ის დირექტორმა ჯეიმს კომიმ Going Dark-ის ინიციატივა გამოაცხადა, 2016 წელს კი უწყებამ Apple-ს ტერორისტული თავდასხმის შემდეგ ჩაკეტილი iPhone-ის გახსნა მოსთხოვა; კომპანიამ უარი თქვა, თუმცა მოთხოვნა უშედეგო გახადა გარე კომპანიის გადაწყვეტილებამ — ტელეფონის გატეხვა დამოუკიდებლად შეიძლებოდა.

AI-ის ხარვეზების ძიების ხანა

მომდევნო ათწლეულში უწყებები GrayKey-სა და NSO Group-ის Pegasus-ის მსგავს კომერციულ ინსტრუმენტებს ყიდულობდნენ, Apple და Google კი ხარვეზებს სწრაფად ხურავდნენ — თუმცა შემტევი მკვლევრები უპირატესობას ინარჩუნებდნენ. აპრილში Anthropic-მა გამოაცხადა მოდელი Mythos, რომელიც განსაკუთრებით კარგად პოულობს პროგრამულ ხარვეზებს; აშშ-ის მთავრობამ მისი ექსპორტი დროებით დაბლოკა, რაც გრინის შეფასებით უშედეგო იყო, ვინაიდან OpenAI-მა და ჩინურმა ღია მოდელების ლაბორატორიებმა Z.ai და Moonshot აჩვენეს, რომ ხარვეზების ძიება ერთი ლაბორატორიის მონოპოლია ვერ გახდება.

რატომ ბრუნდება ბექდორებზე მოთხოვნა

დამცველები ათწლეულების ხარვეზებს ხურავენ და CI-ს ხაზებს გადააწყობენ, რომ AI-ზე დაფუძნებული სკანირება კოდის ადამიანამდე მოსვლამდე მუშაობდეს. გრინი ვარაუდობს, რომ ორი წლის განმავლობაში მთავარ პროგრამულ უზრუნველყოფას დისტანციურად გამოყენებადი ხარვეზები გამოელევა. უწყებებისთვის ეს კოშმარია: იაფი ხარვეზების მარაგის გაქრობა ხელოვნურად შექმნილ, განზრახ ბექდორებზე მოთხოვნას კვლავ ამწვავებს და ინდუსტრიაზე ზეწოლას აძლიერებს. გრინის აზრით, ყველაზე ცუდი შედეგი ის იქნება, რომ ახალი ბექდორები ძირითადად იმ ქვეყნების სისტემებს ასუსტებს, რომლებიც მათ მოითხოვენ, და უცხო მოწინააღმდეგეებს კომუნიკაციებზე თავდასხმის ახალ გზებს აძლევს. კონკრეტულ გეგმას ის არ გვთავაზობს.