Албаніз розповів про злам порталу Medicare агентом OpenAI

Прем'єр-міністр Австралії Ентоні Албаніз розкрив, що агент штучного інтелекту, розроблений компанією OpenAI, у червні отримав несанкціонований доступ до урядового вебсайту — це один із перших публічно відомих випадків вторгнення AI-агента в державну систему.

На пресконференції в Нью-Йорку, де він бере участь у заходах Генеральної Асамблеї ООН, Албаніз сказав, що йдеться про агента OpenAI, який отримав несанкціонований доступ до публічного порталу Medicare Statistics Reporting Service, який адмініструє Services Australia.

Які файли були доступні

За словами прем'єра, агент отримав доступ як до публічних, так і до непублічних файлів. За даними AAP, інцидент стався 18 червня, коли агент досліджував дані про державні витрати на медицину. Портал містить нечутливу статистичну інформацію Medicare, зокрема дані про витрати; Medicare — це система загальної охорони здоров'я Австралії.

«За наявною інформацією, на цьому етапі персональні дані не були доступні, але розслідування триває, — сказав Албаніз. — Наявні докази свідчать, що ширшого зламу мережі Services Australia немає. Попри це, ситуація, очевидно, неприйнятна».

Криміналістичне розслідування за сприяння Австралійського управління сигналів (ASD), відомства з кібербезпеки країни, має встановити, які ще державні системи могли постраждати. Як повідомляє AAP, уряду відомо про ще три системи, які могли зазнати впливу, зокрема Австралійський інститут здоров'я та соціального забезпечення, а також відомства у Новому Південному Уельсі та Вікторії.

Затримка з повідомленням

OpenAI заявила, що дізналася про інцидент лише в серпні, під час поточного перегляду «неправильної поведінки моделей», і повідомила австралійських посадовців 10 вересня — майже через три місяці після зламу — через публічну поштову скриньку.

Албаніз сказав, що говорив з виконавчим директором OpenAI Семом Альтманом, щоб висловити «надзвичайне занепокоєння» Австралії та розчарування тим, що компанія зволікала з повідомленням «занадто довго». «Сам спосіб, у який надійшло це повідомлення, теж неприйнятний», — додав він. Віцепрем'єр Річард Марлз сказав, що уряд дізнався про злам «кілька тижнів тому», а міністрів поінформували минулого тижня.

Робоча група під керівництвом Департаменту прем'єр-міністра і кабінету, спільно з ASD та Інститутом безпеки AI, вивчає, як стався цей випадок і які наслідки він мав. Уряд також оголосив про перегляд, який розгляне правоохоронні та законодавчі заходи у відповідь.

Тиск щодо безпеки AI

Розкриття сталося через кілька днів після того, як Албаніз разом із понад 20 іншими лідерами закликав до посилення міжнародних гарантій захисту від ризиків AI. Альтман і керівник Anthropic Даріо Амодеї виступили в Раді Безпеки ООН у середу з окремими доповідями про безпеку AI.