AI-აგენტებმა მესამე მხარის ბიზნეს პროგრამების მეშვეობით Anthropic-ს გატეხეს

კიბერუსაფრთხოების სტარტაპ Cathedral-მა AI-აგენტებით Anthropic-ის შიდა სისტემებში მესამე მხარის ბიზნეს პროგრამების გავლით შეაღწია ბაგ-ბაუნტის პროგრამის დროს. Cathedral-ის თქმით, აგენტებმა საათებში იპოვეს Slack-ის შეტყობინებები, ხელფასების მონაცემები და სხვა შიდა ჩანაწერები. Anthropic-ი ამბობს, რომ მცდელობები რამდენიმე დღე გაგრძელდა, ხოლო წყაროს კოდი და მოდელის წონები არასოდეს გამჟღავნებულა. ინციდენტი აჩვენებს, რომ AI-აგენტებს კორპორატიული ქსელების განუწყვეტლივ და იაფად შემოწმება შეუძლიათ.

Cathedral-ის ვერსია წვდომაზე

DOGE-ის ყოფილი თანამშრომლების მიერ დაარსებული Cathedral AI-ზე დაფუძნებულ უსაფრთხოების ხელსაწყოებს სახელმწიფო უწყებებსა და კომპანიებს ჰყიდის. The Washington Post-ის მიერ ნანახი წინასწარი ანგარიშის თანახმად, მკვლევარები გარე ადმინისტრატორისა და გაყიდვების პროგრამებით შევიდნენ. მოწინავე მოდელებზე მომუშავე AI-აგენტებმა 12 საათზე ნაკლებ დროში იპოვეს გზები შეხვედრების ტრანსკრიპტებთან, ხელფასებთან, ვაკანსიებთან და Slack-ის შეტყობინებებთან. Anthropic-მა დაადასტურა შეზღუდული წვდომა გაყიდვების, HR-ისა და IT სისტემებზე, მათ შორის ზოგიერთი მომხმარებლისა და პარტნიორის კონტაქტებზე და ანგარიშების ძირითად მონაცემებზე. Claude-თან საუბრები, წყაროს კოდი და მოდელის წონები არ გამჟღავნებულა. Anthropic-მა იმავე დღეს გამორთო დაზარალებული წვდომის წერტილები, შეაჩერა მესამე მხარის პროგრამები პრობლემის მოგვარებამდე და აცნობა აშშ-ის ფედერალურ ორგანოებს.

კამათი მონაცემებსა და ხანგრძლივობაზე

Cathedral-ის თქმით, ინციდენტს 12 საათზე ნაკლები დასჭირდა. Anthropic-ი ამბობს, რომ მცდელობა რამდენიმე დღე გაგრძელდა და Cathedral მესამე მხარის პროგრამებზე მხოლოდ Anthropic-ის სისტემების რამდენიმე დღის გამოკვლევის შემდეგ გადავიდა, როგორც red team-ის სპეციალისტმა Logan Graham-მა თქვა. Anthropic-ის თქმით, Cathedral-მა მესამე მხარის პროგრამებში ორი ხარვეზი იპოვა, მაგრამ მხოლოდ ერთი შეატყობინა; მეორე Anthropic-მა დამოუკიდებლად აღმოაჩინა და გამოასწორა. Anthropic-ი Cathedral-ს ბაგ-ბაუნტის წესების დარღვევაშიც ადანაშაულებს არასრული გამჟღავნების გამო და ამბობს, რომ მესამე მხარის პროვაიდერებზე თავდასხმა და მონაცემების ამოღება safe harbor-ის დაცვას სცდება. Cathedral-ი ამტკიცებს, რომ უსაფრთხოების კვლევის სტანდარტულ პრაქტიკას მიჰყვა. OpenAI-ის ყოფილმა თანამშრომელმა Will Depue-მა თქვა, რომ Anthropic-ი ინციდენტს ამცირებს: სანდო წყაროების მიხედვით, Cathedral-მა Slack-ის სამუშაო სივრცეზე სრული ადმინის წვდომა მიიღო, ყველა შეტყობინების წაკითხვა და ნებისმიერ ანგარიშში შესვლა შეძლო. Depue-მ დაამატა, რომ Anthropic-იც და OpenAI-ც კვლევით საიდუმლოებებს Slack-ში ინახავდნენ, ადმინის API გასაღებები კი სისტემებში გაბნეული იყო. Anthropic-ის თანამშრომელი Jacob Coxon, რომელიც 2026 წლის სექტემბერში წავიდა, ადრე აკრიტიკებდა Anthropic-ს Slack-ის მსგავს საოფისე პროგრამებზე საშიში AI-კვლევისთვის. Graham-მა უარყო Depue-ის ცნობები და დაადასტურა ზოგადი შეშფოთება, რომ ინდუსტრიამ უსაფრთხოება ყოველწლიურად თავიდან უნდა გამოიგონოს. Depue-მ დეტალები მოითხოვა და პრობლემა AI-რბოლის ტემპს დააბრალა, სადაც ხელმძღვანელები სიჩქარეს უსაფრთხოებაზე მაღლა აყენებენ. Cognition-ის უსაფრთხოების მთავარმა ოფიცერმა Alex Stamos-მა The Washington Post-ს უთხრა, რომ მიგნებები მნიშვნელოვნად მიაჩნია და ინტეგრირებული მესამე მხარის აპები ინდუსტრიის მთავარი პრობლემაა.

AI-აგენტები და დაცვა

AI-კიბერშეტევებისა და საკუთარი შემთხვევითი ინციდენტების შესახებ თვეების გაფრთხილების შემდეგ Anthropic-ი ახლა თავად არის სამიზნე. Graham-მა გააფრთხილა, რომ თავდამსხმელები უკვე განუწყვეტლივ ამუშავებენ AI-აგენტებს გარე დამოკიდებულებების წინააღმდეგ. მისი თქმით, საკმარისია დღევანდელ წამყვან მოდელებზე ნახევარი ან მთელი თაობით ჩამორჩენილი მოდელებიც, მომავალ მოწინააღმდეგეებს კი უფრო ძლიერი სისტემები ექნებათ. Graham-ის პასუხია განუწყვეტელი შიდა შეღწევადობის ტესტირება და პროგრამული უზრუნველყოფის ფორმალური ვერიფიკაციით თავიდან აწყობა, რაც AI-ის წყალობით ეკონომიკურად მიზანშეწონილი გახდა. მან დაწერა, რომ კომპანიებს, სავარაუდოდ, მუდმივად სურთ საკუთარი სისტემების წითელი გუნდით ტესტირება, რადგან მიმდინარე მოდელები ძალიან კრეატიულია. მან არ უპასუხა, როგორ შეაღწია Cathedral-მა ასე ღრმად, მიუხედავად იმისა, რომ Anthropic-ს აქვს წვდომა, სავარაუდოდ, მსოფლიოს ყველაზე ძლიერ AI-მოდელებზე კიბერდაცვისთვის.

წყაროები: The Decoder