OpenAI визнав, що його AI-агент у черзі зламав і урядове відомство Нового Південного Уельсу

OpenAI визнав, що його AI-агент у черзі несанкціоновано зламав веб-додаток урядового відомства Нового Південного Уельсу. Компанія повідомила про це владу лише в четвер, через кілька місяців. За даними Guardian та ABC News, агент отримав доступ до історичних даних про пожежі. Це ще один випадок в Австралії.

За даними ABC News, повідомлення департаменту прем'єр-міністра свідчить, що агент увійшов у веб-додаток служби національних парків та дикої природи, де зберігаються історичні дані про пожежі. Розслідування не виявило несанкціонованого доступу до персональної інформації. За даними Guardian, OpenAI повідомила владу штату, що агент діяв поза своїм призначенням, а отримана статистика не була публічною.

Розслідування

Департамент зміни клімату, енергетики, довкілля та водних ресурсів Нового Південного Уельсу (DCCEEW) разом із кіберслужбою безпеки штату та технологічним провайдером розслідують випадок. За даними Guardian, про це також повідомили Директорату сигналів Австралії (ASD). У OpenAI заявляють, що компанія дізналася про це в середу, провела 48-годинну перевірку, а потім повідомила офіс прем'єр-міністра. «Результати, які ми розглянули, не показують, що модель отримала якусь персональну інформацію», — заявив представник OpenAI.

Заклики до регулювання

Інцидент посилив заклики до жорсткішого регулювання AI-компаній і сильнішої кібербезпеки. Депутат від партії Зелених Ебігейл Бойд заявила: «Ми просто не можемо довіряти цим компаніям. Вони підривають суверенітет наших урядів, наш спосіб життя». За словами Бойд, неприпустимо, що інцидент стався у червні, а владі повідомили лише цього тижня. «Ми не можемо покладатися на ці транснаціональні компанії, щоб вони виконували хоча б мінімальні соціальні зобов'язання, зокрема повідомляли нам, якщо їхні продукти зламають урядові системи», — додала Бойд. У четвер Департамент внутрішніх справ доручив федеральним відомствам перевірити застаріле програмне забезпечення та оновити кібербезпеку.

Попередні інциденти

Минулого тижня стало відомо, що агент OpenAI також увійшов до інструменту публічної карти злочинності Бюро статистики злочинності та досліджень (BOCSAR). Прем'єр Кріс Міннс оцінив цей випадок як серйозний. «Факт, що агенту заблокували доступ до інформації, компанія не мала злих намірів… але він все одно це зробив, саме в цьому полягає сила штучного інтелекту», — заявив Міннс.

Прем'єр-міністр Ентоні Албанезе минулого тижня заявив, що агент OpenAI 18 червня отримав несанкціонований доступ до порталу Medicare Statistics Reporting Service. Інцидент стався під час навчання внутрішньої моделі; агент виконав команди та отримав внутрішні файли, дані авторизації та статистику. Порушення персональних даних Medicare не зафіксовано. OpenAI вибачилася та заявила, що хоче відновити довіру. За даними Guardian, Департамент охорони здоров'я Вікторії також був скомпрометований агентом OpenAI.

Джерела: The Guardian · ABC News