Агенти штучного інтелекту зламали Anthropic через стороннє бізнес-ПЗ

Кібербезпековий стартап Cathedral використав AI-агентів для доступу до внутрішніх систем Anthropic через стороннє бізнес-програмне забезпечення під час програми винагороди за вразливості AI-лабораторії. Cathedral каже, що агенти знайшли повідомлення Slack, дані про зарплати та інші внутрішні записи за кілька годин, тоді як Anthropic каже, що спроби тривали кілька днів і що вихідний код та ваги моделей ніколи не були розкриті. Інцидент показує, як AI-агенти можуть цілодобово досліджувати корпоративні мережі за низької вартості.

Заявлений доступ Cathedral

Cathedral, заснована колишніми працівниками DOGE, продає інструменти безпеки на базі AI державним установам і бізнесу. Її чернетка звіту, яку переглядала The Washington Post, каже, що дослідники проникли через зовнішні адміністративні та торгові програми. AI-агенти, що працювали на передових моделях, знайшли шляхи до транскриптів зустрічей, даних про зарплати, вакансій і повідомлень Slack менш ніж за дванадцять годин. Anthropic підтвердила обмежений доступ до систем продажів, кадрів і ІТ, зокрема до частини контактних даних клієнтів і партнерів та базових даних користувацьких облікових записів. Чати з Claude, вихідний код і ваги моделей ніколи не були розкриті. Anthropic того ж дня закрила зачеплені точки доступу, вимкнула сторонні програми до вирішення проблеми й повідомила федеральні органи США.

Суперечка щодо даних і тривалості

Cathedral каже, що інцидент тривав менше дванадцяти годин. Anthropic каже, що спроба атаки розтягнулася на кілька днів, і що Cathedral перейшла до стороннього програмного забезпечення лише після кількох днів зондування власних систем Anthropic, за словами фахівця з red team Логана Грема. Anthropic каже, що Cathedral знайшла дві вразливості в сторонньому ПЗ, але повідомила лише про одну; другу Anthropic виявила й закрила самостійно. Anthropic також звинувачує Cathedral у порушенні правил програми винагороди за вразливості через неповне розкриття й каже, що націлювання на сторонніх постачальників і витягування даних виходили за межі положень про безпечну гавань. Cathedral наполягає, що дотримувалася стандартних практик дослідження безпеки. Колишній працівник OpenAI Вілл Деп'ю стверджував, що Anthropic применшує інцидент, кажучи, що надійні джерела повідомили йому про повний адміністративний доступ Cathedral до робочого простору Slack, можливість читати кожне повідомлення та входити в будь-який користувацький обліковий запис. Деп'ю додав, що і Anthropic, і OpenAI зберігали всі дослідницькі секрети в Slack, а адміністративні ключі API були розкидані по системах. Джейкоб Коксон, працівник Anthropic, який пішов у вересні 2026 року, раніше критикував Anthropic за використання небезпечних AI-досліджень на офісному програмному забезпеченні на кшталт Slack. Грем заперечив, сказавши, що джерела Деп'ю помилялися, водночас підтвердивши ширше занепокоєння, що галузь має щороку винаходити безпеку заново. Деп'ю вимагав деталей і звинуватив темп AI-гонки, у якій керівники надають пріоритет швидкості над безпекою. Алекс Стамос, головний директор із безпеки в Cognition, сказав The Washington Post, що вважає висновки значними й що інтегровані сторонні застосунки є великою проблемою галузі.

AI-агенти та захист

Після місяців попереджень про кібератаки на базі AI та власних випадкових інцидентів безпеки Anthropic тепер сама стала об'єктом атаки. Грем попередив, що нападники вже запускають AI-агентів цілодобово, націлюючись на зовнішні залежності. Навіть моделі, що відстають від передового рівня на пів покоління чи ціле покоління, достатньо здатні, сказав він, а майбутні супротивники матимуть потужніші системи. Відповідь Грема полягає в безперервному внутрішньому тестуванні на проникнення та перебудові програмного забезпечення з формальною верифікацією, що AI тепер робить економічно вигідним. Він написав, що компанії, ймовірно, хочуть редтімити себе весь час, бо сучасні моделі дуже креативні. Він не пояснив, як Cathedral проникла так глибоко, хоча Anthropic має доступ до того, що можна назвати найпотужнішими у світі AI-моделями для кіберзахисту.

Джерела: The Decoder