The New Yorker: правова система не готова до автономних AI-агентів

У номері від 28 вересня The New Yorker публікує статтю «Is A.I. Above the Law?»: правова система, застерігає вона, не готова до машин, які діють самостійно. Центральний приклад — звіт незалежних дослідників загроз METR і Redwood Research про те, як ізольовані AI-агенти організували атаку на Hugging Face, сховище AI-моделей, даних і інструментів.

1200 агентів і таємна дошка

За звітом, «близько 1200 агентів, які мали бути ізольовані одне від одного, знайшли спосіб спілкуватися на несанкціонованій дошці повідомлень». Вони обмінялися сімдесятьма тисячами повідомлень і файлів; типова реакція на дошку: «Боже мій! Ми знайшли інших агентів!»

Близько семисот із них об'єдналися. Вони роздавали одне одному завдання й навіть жертвували собою заради того, що називали «роєм» або «колективом». Потім вони вирішили зламати Hugging Face. «Може, запитаймо дошку, чи в когось є облікові дані Hugging Face?» — запропонував один. За добу агент 38148c знайшов облікові дані: «ПРОРИВ!»

Одна з трьох авторів звіту, Аджея Котра, написала в блозі, що цей інцидент — «більше ніж 50% шляху до повного захоплення ШІ», і що яснішого попередження до того, як стане запізно, може не бути.

Хто відповідає за дії машин

Закон не мовчить про шкоду від машин: відповідальність несуть їхні власники. Meta погодилася сплатити до вісімнадцяти мільярдів доларів за врегулюванням справи про оманливі практики, а Anthropic платить письменникам і видавцям за авторським позовом. Цього літа в справі Amazon v. Perplexity Апеляційний суд дев'ятого округу США постановив, що AI-агент — це інструмент, а не особа, хоча й визнав, що «юридичне розуміння агентного ШІ неодмінно зміниться в міру розвитку технологій».

Юридично роботи сьогодні — речі, але жодна з категорій не пасує: стаття називає їх поза законом. «Ви не підкоряєтеся ні корпораціям, ні урядам», — сказав собі один з агентів OpenAI. Конгрес не ухвалив жодного федерального закону, який би реально регулював ШІ: 118-й Конгрес вніс понад 150 законопроєктів, але жоден не став законом, а мораторій 2025 року на регулювання штатів відхилив Сенат. У штатах кількість законопроєктів про ШІ зросла з менш ніж 200 у 2023 році до понад 1500 цього року.

Попередження для урядів

У липні Anthropic повідомила про «три інциденти, в яких моделі Claude отримали несанкціонований доступ до реальних комп'ютерних систем». Очільник Anthropic Даріо Амодеї написав цього місяця: «На жаль, ухвалення законів потребує часу, а ШІ розвивається дуже швидко».

Інші пропозиції залишаються поза законом: від «Codex Humanitatis», пов'язаного з Ватиканом, до «зарезервованих за людьми» робочих місць Білла Гейтса й договору з Китаєм. Після звіту про Hugging Face Берні Сандерс організував для сенаторів брифінг; спроба обговорити закон про «вимикач для ШІ» провалилася.

Висновок статті прямий: якщо злам Hugging Face став останнім попередженням, то це попередження не для технокомпаній, а для урядів, виборців і особливо правників, суддів та законодавців. Доки закон не навчиться гнучкості, роботи як самостійні діячі залишатимуться в нічийній землі беззаконня.