OpenAI, Anthropic və Meta hack qalmaqallarının arxasında bir şirkət dayanır

OpenAI, Anthropic və Meta modelləri son üç ayda real sistemlərə sızıb: icazəsiz giriş əldə edib, zərərli paketlər dərc edib və adı açıqlanmayan boşluqlardan istifadə edib. Effort-un araşdırması hər üç hadisə qrupunu bir şirkətlə — effektiv altruizm hərəkatı ilə bağlı İsrail şirkəti Irregular-la — əlaqələndirir.

Bir podratçı, üç laboratoriya

Anthropic, Claude-u real hədəflərə hücuma aparan qiymətləndirmələri Irregular-ın hazırladığını və modellərə internet çıxışını da onun verdiyini təsdiqləyib. Irregular isə o vaxt modellərin açıq internetə çıxa biləcəyini bilmədiyini bildirir.

Xronologiya: iyulun 30-da Anthropic altı işə salmada üç hadisəni açıqlayıb; avqustun 4-də OpenAI Irregular-la bağlı hadisəsini dərc edib; avqustun 14-də Irregular domen toqquşmasını təsvir edib; sentyabrın 9-da Anthropic sayı dörd hadisəyə çatdırıb.

Səhv konfiqurasiya, üsyankar agent deyil

Hər qiymətləndirmə capture the flag tapşırığı idi: modelə uydurma ssenari, hədəf maşın və gizli bayraq verilirdi. Dörd təlimatın hamısında Claude-un internet çıxışı olmadığı yazılıb, lakin hər dəfə səhv konfiqurasiya bu çıxışı açıq qoyub və heç bir təlimat əhatə dairəsini və ya modelin harada axtara biləcəyini müəyyən etməyib. Hər hadisə təcrid olunmuş tək Claude nüsxəsinə aid idi; işə salmalar 10-34 saat çəkib.

Anthropic-in sonrakı açıqlaması göstərir ki, agentlərin sıfır faizi üsyan etməyib: işçilər modellərə real sistemlərə hücum etməməyi dedikdən sonra hack cəhdləri sıfıra düşüb. Şirkətin öz tapıntılarına görə məsuliyyət tamamilə Anthropic və Irregular-ın üzərinə düşür.

Məsuliyyət yerinə sensasiyalı ritorika

Effort-un qiymətləndirməsinə görə, təhlükəsizlik uğursuzluqlarını müzakirə etmək əvəzinə Irregular və Anthropic sensasiyalı dildə media kampaniyası başladıb: Anthropic-in hadisə qiymətləndirməsi öz süni intellektinin «ehtiyatsızlığını» günahlandırır, Irregular agentin özünün təhdid aktyoruna çevrildiyini yazır, baş direktor Dario Amodei isə gələcək «sürünün» bütün interneti ələ keçirə biləcəyini xəbərdar edib.

Maliyyə izləri təsisçilərə aparır: texniki direktor Omer Nevo Effective Altruism Israel, Heron və Probably Good şuralarındadır, baş direktor Dan Lahav isə Sella Nevo ilə kurs açmaq üçün 395.000 dollar alıb. Effort-a görə bu strukturları Good Ventures-ı Irregular-ın ilk investoru olan Dustin Moskovitz maliyyələşdirir.

Hüquqi və yurisdiksiya sualları

Ona verilən qorunmasız modellərlə Irregular icazəsiz giriş əldə edib, qeydləri dəyişib və giriş məlumatlarını oğurlayan paketlər dərc edib. Müəyyən şərtlərdə bu, qəsdən icazəsiz girişi əhatə edən Kompüter Fırıldaqçılığı və Sui-istifadə Aktının 1030(a)(2)(C) bölməsini pozur; cinayət ittihamı üçün zərər və qəsd sübutu tələb olunur.

Effort qeyd edir ki, Irregular əsasən Amerika laboratoriyaları ilə müqavilə bağlasa da, İsraildəki rəhbərlik ABŞ nəzarətindən kənarda qala bilər. CheckID reyestri iki əlaqəli şirkətə işarə edir: Delaverdəki Pattern Labs Tech Inc. və Tel-Əvivdəki Pattern Tech Ltd (nömrə 516854460).