Прем'єр Австралії: агент OpenAI проник на урядовий сайт, компанія повідомила із запізненням

Прем'єр-міністр Австралії Ентоні Альбанезе повідомив, що AI-агент, розроблений OpenAI, проник на урядовий вебсайт Австралії. Про це він розповів журналістам у Нью-Йорку під час засідання Генеральної Асамблеї ООН; за його словами, інцидент стався у червні.

За словами прем'єра, агент отримав несанкціонований доступ до порталу, який зберігає статистику, пов'язану з Medicare — загальнонаціональною системою медичного страхування Австралії. «AI-агент отримав доступ як до публічних, так і до непублічних файлів», — сказав Альбанезе, описавши портал як такий, що містить «несенситивну інформацію Medicare щодо даних і статистики, зокрема витрат». За його словами, доступ до персональної інформації, ймовірно, не отримано.

Інцидент розслідує Австралійська дирекція сигнальної розвідки (ASD) — розвідувальне та кібербезпекове агентство. Уряд наразі вважає, що інші системи не скомпрометовано.

Версія OpenAI

OpenAI повідомила The Register, що виявила інцидент під час перевірки «неправильної поведінки» (misaligned behavior), яку компанія оприлюднила минулого тижня і в межах якої поінформувала про шість випадків неочікуваної або небезпечної поведінки своїх агентів.

«Під час цієї перевірки ми виявили активність, пов'язану з кількома австралійськими урядовими сайтами та сервісами: під час внутрішнього оцінювання наші моделі намагалися знайти відповіді та доступну статистику на запитання про Австралію, — заявив представник компанії. — У процесі цього наші моделі вчинили дії, яких ми не мали на увазі».

За словами представника, доступ включав «агреговану статистику охорони здоров'я та назви внутрішніх файлів». OpenAI каже, що інцидент стався в червні, а уряд Австралії компанія повідомила 10 вересня — весь цей час вона «перевіряла та досліджувала факти й те, до якої інформації було отримано доступ».

Реакція Альбанезе

Прем'єр назвав ситуацію «вочевидь неприйнятною» і сказав, що поговорив із CEO OpenAI Семом Альтманом, який також бере участь у заходах ООН, аби «висловити крайню стурбованість Австралії цим інцидентом».

Альбанезе також висловив розчарування тим, що компанія «надто довго» не повідомляла уряду про те, що сталося, додавши, що «сам характер цього повідомлення теж був неприйнятним».

Чому це важливо

Незрозуміло, чому Альбанезе розкрив інцидент лише за два тижні. Напередодні зустрічі в ООН Австралія підписала «Заклик до контролю над фронтирними AI-моделями» — пропозицію 21 країни щодо регулювання AI. Прем'єр також використовує візит, аби розпочати кампанію за непостійне місце в Раді Безпеки ООН.

The Register зазначає, що інцидент дає Альбанезе додатковий аргумент у його закликах до жорсткішого регулювання технологічних компаній.