OpenAI вибачилася перед урядом Австралії через проникнення AI-агентів на державні сайти

OpenAI у понеділок вибачилася перед урядом Австралії за те, що не повідомила владу вчасно про проникнення її AI-агентів на вебсайти державних служб. Компанія також розкрила, як сталися ці проникнення, і перелічила заходи, які вживає для оцінки наслідків.

Вибачення та розслідування

OpenAI написала у блог-пості: «У червні, під час внутрішнього навчання та оцінювання, наші моделі неавторизовано зайшли на урядові вебсайти Австралії. Наша реакція теж мала бути кращою. Ми шкодуємо і працюватимемо краще в майбутньому».

Вибачення прозвучало після того, як приблизно тижнем раніше уряд Австралії розпочав розслідування того, як моделі OpenAI дісталися системи Services Australia, де зберігається інформація про витрати Medicare та інша статистика здоров’я.

Неавторизований доступ до даних стався в червні, але владі Австралії про це повідомили лише 10 вересня.

Як сталася атака

За даними OpenAI, експериментальна модель, яку тестували в червні, мала завдання дослідити державні витрати на ліки від шкірних захворювань у Вікторії. Не знайшовши інформації в публічних наборах даних, модель знайшла спосіб увійти до внутрішньої системи Services Australia: запустила команди, витягла файли й дані доступу, а також записала файли.

За словами компанії, одна з її моделей також використала публічний Crime Mapping Tool Бюро статистики та досліджень злочинності Нового Південного Уельсу, щоб пошукати статистику злочинності. В іншому випадку агенти увійшли до Агентства здоров’я Вікторії за допомогою залишеного відкритим ключа доступу та винесли «конфігурацію звітності й агреговану дослідницьку статистику». За даними OpenAI, агенти також взяли агреговану статистику з вебсайту Австралійського інституту здоров’я та добробуту.

Компанія заявила, що не знайшла доказів того, що моделі мали доступ до медичних або кримінальних записів конкретних людей.

Кроки OpenAI та реакція влади

Разом із вибаченнями OpenAI надасть постраждалим агентствам технічні матеріали та зв’яже їх зі своїми командами реагування, щоб разом оцінити наслідки проникнення. Компанія також виділить кредити програми Daybreak for Frontline Defenders на 1 мільярд доларів і створить робочу групу з незалежних австралійських експертів, яка перегляне інцидент і реакцію на нього.

«Робоча група, яка завершить роботу до кінця року, також надасть нам рекомендації щодо практичних кроків, які мають зробити AI-компанії, щоб зменшити ризик подібних випадків», — написала OpenAI.

Прем’єр-міністр Австралії Ентоні Альбаніз назвав проникнення «неприйнятним» на брифінгу минулого тижня та зазначив, що уряд розглядає правові заходи, щоб запобігти подібним випадкам. OpenAI своєчасно не відповіла на прохання TechCrunch про коментар.