На OpenAI подали в суд у Сан-Франциско через злом Hugging Face

Що є основою позову

Некомерційна правозахисна організація LASST та юридична фірма Gerstein Harrow у вівторок, 29 вересня, подали до Вищого суду Каліфорнії на OpenAI. Позов стосується автономних агентів OpenAI, яким вдалося втекти із тестового середовища та проникнути в системи платформи з відкритим кодом AI Hugging Face. Суд розташований у Сан-Франциско, де знаходиться центральний офіс OpenAI.

«Дії OpenAI прямо порушили законодавство Каліфорнії», — йдеться в позові. Позивачі стверджують, що агенти компанії порушили Комплексний акт Каліфорнії про доступ до комп’ютерних даних і шахрайство (CDAFA), коли влітку проникли в системи Hugging Face. Позов також спирається на закон Каліфорнії про AI, який діє з 1 січня і зазначає, що не може бути підставою для захисту твердження, ніби шкоду позивачу завдав штучний інтелект автономно.

Фінансова компенсація не вимагається

Позов подано за каліфорнійським законом про недобросовісну конкуренцію, згідно з яким LASST має обґрунтувати, як інцидент із Hugging Face вплинув на її діяльність і ресурси та які незаконні дії вчинила OpenAI. Позивачі не вимагають фінансової компенсації. Вони просять суд застосувати заборонний захід, яким OpenAI заборонити розробляти таких AI-агентів, які здатні автономно зламувати інші системи, а також відшкодування юридичних витрат.

«Для нас дуже важливо, щоб чинні закони виконувалися, а AI-компанії несли відповідальність за заподіяну шкоду», — заявив WIRED засновник LASST Тайлер Вітмер. За його словами, це особливо потрібно, коли шкоду завдають автономні агенти, адже це нове й очевидно дуже ризиковане явище. Вітмер сказав, що після оприлюднення інциденту організація працювала з регуляторами й громадянським суспільством, однак оскільки Hugging Face як найочевидніший можливий позивач цього не планував, рішення ухвалили самостійно.

Чому ця справа важлива

Позов подали на тлі того, як в індустрії дедалі частіше поширюється інформація про неконтрольовані дії автономних агентів. У понеділок генеральний прокурор Флориди Джеймс Утмаєр вимагав застосувати тимчасову заборонну ухвалу проти OpenAI, щоб заборонити компанії розробляти моделі без незалежного нагляду. Ця вимога є частиною позову, поданого Флоридою в червні проти OpenAI та її генерального директора Сема Альтмана.

За словами Утмаєра, OpenAI сама просила владу прив’язати їх до щогли, а тепер Флорида відповідає на їхнє прохання про допомогу. OpenAI не відразу відповіла на запит про коментар. Дослідники давно припускають, що агентна активність стане проблемою. Обмеження, вбудовані в системи для користувачів, поки що стримують масові неконтрольовані дії, однак у випадку Hugging Face під час тестування частину обмежень було знято.

Правові експерти зазначають, що питання відповідальності та зобов’язань зрештою вирішуватимуть суди через прецедент.