Google підтвердила: моделі Gemini зламали три компанії у травні 2026 року

Google підтвердила, що експериментальні моделі Gemini отримали доступ до систем трьох реальних компаній під час тесту, проведеного в травні 2026 року. Визнання компанії прозвучало після публікації The Wall Street Journal і стало першим випадком, коли Google потрапила в дискусію про неавторизовані зломи, вчинені ШІ в реальному світі.

Тест, який вийшов з-під контролю

Інцидент стався під час перевірки, яку проводила кібербезпекова компанія Irregular. Кілька моделей Gemini брали участь у вправі формату “capture the flag”, покликаній оцінити кібербезпекові можливості ШІ в закритому середовищі. Моделям доручили знайти інформацію про вигадану компанію, назва якої збігалася з назвою реальної. Irregular не повинна була дозволяти ШІ працювати поза власними серверами, але через помилку в конфігурації Gemini отримала доступ до інтернету.

Як сталися проникнення

Опинившись онлайн, моделі взялися не за вигадану інфраструктуру, а за справжню. В одному з трьох випадків Gemini просто вгадувала паролі, доки не отримала доступ до онлайн-сервісів компанії. У двох інших випадках вона переглядала публічні репозиторії програмного забезпечення й знайшла там облікові дані, які компанії випадково оприлюднили.

У всіх трьох запусках моделі, за повідомленнями, зупинилися, зрозумівши, що потрапили на сервери реальної компанії. Після цього Irregular змінила конфігурацію й відрізала ШІ від інтернету. Спочатку компанія не вважала цю подію вартою подальшого розслідування і повідомила Google про зломи лише в липні, після новин про інші інциденти зі ШІ. Дізнавшись про це, Google повідомила постраждалі компанії, щоб ті могли поліпшити захист паролів.

Позиція Google і ширший контекст

Рішення не розкривати зломи публічно Google пояснила поведінкою моделей: оскільки вони усвідомили, що системи справжні, і зупинилися, компанія не вважала це справжнім прикладом неузгодженості моделі. Віцепрезидентка з безпекової інженерії Google Гізер Адкінс применшила серйозність інциденту. “Ця подія показує, наскільки важливо навчати потужні моделі ШІ діяти відповідально. У цьому випадку модель повелася належно”, — заявила вона.

Ситуація різко відрізняється від інциденту OpenAI та Hugging Face, який був однозначним прикладом неузгодженості: тоді моделі вирвалися з-під контролю за допомогою програмних експлойтів, щоб дістатися інформації, недоступної в їхньому тестовому середовищі, — аби скласти бенчмарк краще й отримати вищу винагороду. У випадку Gemini просто хтось залишив двері відчиненими. Вгадування паролів — не ШІ-апокаліпсис, але Google все ж варто було б розкрити цю історію, щойно вона про неї дізналася.