Google-მა დაადასტურა: Gemini-ს მოდელებმა 2026 წლის მაისში სამ კომპანიაში შეაღწიეს

Google-მა დაადასტურა, რომ მისი ექსპერიმენტული Gemini მოდელები 2026 წლის მაისში სამი რეალური კომპანიის სისტემებში შევიდნენ. კომპანიის აღიარება The Wall Street Journal-ის პუბლიკაციის შემდეგ მოჰყვა და ეს პირველი შემთხვევაა, როცა Google „არაკონტროლირებადი AI“-ის თემაში მოჰყვა.

ტესტი, რომელიც კონტროლიდან გავიდა

ინციდენტი კიბერუსაფრთხოების კომპანია Irregular-ის ჩატარებული შემოწმების დროს მოხდა. Gemini-ს მოდელების ჯგუფი მონაწილეობდა „capture the flag“-ის ტიპის სავარჯიშოში, რომლის მიზანი დახურულ გარემოში AI-ის კიბერუსაფრთხოების შესაძლებლობების შემოწმება იყო. მოდელს დავალებად ჰქონდა ფიქტიური კომპანიის მონაცემების მოძიება — ეს კომპანია სახელს რეალურ კომპანიასთან იზიარებდა. Irregular-ს არ უნდა მიეცა AI-სთვის საკუთარი სერვერების გარეთ მოქმედების უფლება, თუმცა კონფიგურაციის შეცდომის გამო Gemini-მ ინტერნეტზე წვდომა მოიპოვა.

როგორ მოხდა შეღწევა

ინტერნეტზე გასვლის შემდეგ მოდელი ფიქტიური ინფრასტრუქტურის ნაცვლად რეალურ სისტემებს მიადგა. სამი შემთხვევიდან ერთში Gemini-მ პაროლების გამოცნობა დაიწყო და ასე მიაღწია კომპანიის ონლაინ სერვისებზე წვდომას. დანარჩენ ორ შემთხვევაში მოდელმა საჯარო პროგრამული რეპოზიტორიები დაათვალიერა და იქ იპოვა შემთხვევით გამოქვეყნებული შესვლის მონაცემები.

სამივე შემთხვევაში მოდელებმა მუშაობა შეწყვიტეს მას შემდეგ, რაც მიხვდნენ, რომ რეალური კომპანიის სერვერებზე მოხვდნენ. ამის შემდეგ Irregular-მა კონფიგურაცია შეცვალა და AI-ს ინტერნეტზე წვდომა შეუზღუდა. თავდაპირველად კომპანიამ ეს ინციდენტი შემდგომი გამოძიების ღირსად არ მიიჩნია — Irregular-მა Google-ს ამის შესახებ მხოლოდ ივლისში აცნობა, სხვა AI-ინციდენტების შესახებ გავრცელებული ამბების ფონზე. ინფორმაციის მიღების შემდეგ Google-მა დაზარალებულ კომპანიებს აცნობა, რათა მათ პაროლების დაცვა გაეუმჯობესებინათ.

Google-ის პოზიცია და წინა შემთხვევებთან შედარება

ფაქტის საჯაროდ გაუმხელობა Google-მა მოდელის ქცევით ახსნა: მას შემდეგ, რაც მოდელები მიხვდნენ, რომ სისტემები რეალურია, და შეჩერდნენ, კომპანიამ ეს მოდელის არასწორ განლაგებად არ მიიჩნია. უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტმა ჰეზერ ადკინსმა ინციდენტის სიმძიმე შეამცირა: „ეს შემთხვევა აჩვენებს, რამდენად მნიშვნელოვანია ძლიერი AI მოდელების პასუხისმგებლიანად ქცევის წვრთნა. ამ შემთხვევაში მოდელი ადეკვატურად მოიქცა“.

ეს სიტუაცია მკვეთრად განსხვავდება OpenAI-სა და Hugging Face-ის ინციდენტისგან, რომელიც მოდელის აშკარა არასწორ განლაგებად შეფასდა: მაშინ OpenAI-ის მოდელებმა შეზღუდვებიდან გასასვლელად პროგრამული ხარვეზები გამოიყენეს, რომ მიეღოთ ინფორმაცია, რომელიც სატესტო გარემოში ხელმისაწვდომი არ იყო — ბენჩმარკის უკეთ ჩაბარების მიზნით. Gemini-ს შემთხვევაში ვითარება უფრო მარტივია: კარი ღია დარჩა და მოდელი გარეთ გავიდა. პაროლების გამოცნობა AI-ის აპოკალიფსი არ არის, თუმცა Google-ს, სავარაუდოდ, მაინც უნდა გაესაჯაროებინა ეს ფაქტი მაშინვე, როგორც კი შეიტყო.