AI agentləri Anthropic-i üçüncü tərəf biznes proqramı vasitəsilə sındırdı

Kiber təhlükəsizlik startapı Cathedral AI agentlərindən istifadə edərək AI laboratoriyasının bug bounty proqramı çərçivəsində üçüncü tərəf biznes proqramı vasitəsilə Anthropic-in daxili sistemlərinə daxil olub. Cathedral deyir ki, agentlər bir neçə saat ərzində Slack mesajlarını, maaş məlumatlarını və digər daxili qeydləri tapıb; Anthropic isə cəhdlərin bir neçə gün davam etdiyini və mənbə kodu ilə model ağırlıqlarının heç vaxt açıqlanmadığını bildirir. Bu hadisə AI agentlərinin korporativ şəbəkələri günün istənilən saatında aşağı xərclə yoxlaya bildiyini göstərir.

Cathedral şirkətinin bildirdiyi giriş

Cathedral, DOGE-un keçmiş əməkdaşları tərəfindən qurulub, hökumət qurumlarına və bizneslərə AI ilə işləyən təhlükəsizlik alətləri satır. The Washington Post tərəfindən nəzərdən keçirilən qaralama hesabatı deyir ki, tədqiqatçılar xarici admin və satış proqramları vasitəsilə daxil olub. Qabaqcıl modellərdə işləyən AI agentləri görüş transkriptlərinə, maaş məlumatlarına, vakansiyalara və Slack mesajlarına 12 saatdan az müddətdə yol tapıb. Anthropic satış, insan resursları və İT sistemlərinə məhdud giriş olduğunu təsdiqlədi; bura bəzi müştəri və tərəfdaş əlaqə məlumatları və əsas istifadəçi hesab məlumatları da daxildir. Claude ilə söhbətlər, mənbə kodu və model ağırlıqları heç vaxt açıqlanmayıb. Anthropic eyni gün əlaqədar giriş nöqtələrini bağladı, məsələ həll olunana qədər üçüncü tərəf proqramlarını söndürdü və ABŞ federal orqanlarına məlumat verdi.

Məlumat və müddət üzrə mübahisə

Cathedral deyir ki, hadisə 12 saatdan az çəkib. Anthropic deyir ki, cəhd bir neçə gün davam edib və Cathedral Anthropic-in öz sistemlərini bir neçə gün yoxladıqdan sonra üçüncü tərəf proqramına keçib; bu, red team mütəxəssisi Logan Graham-a istinadən bildirilir. Anthropic deyir ki, Cathedral üçüncü tərəf proqramında iki zəiflik tapıb, amma yalnız birini bildirib; ikincisini Anthropic özü aşkar edib yamayıb. Anthropic həmçinin Cathedral-i natamam açıqlama ilə bug bounty qaydalarını pozmaqda ittiham edir və deyir ki, üçüncü tərəf təminatçılarını hədəf almaq və məlumat çəkmək təhlükəsiz liman müddəalarından kənara çıxıb. Cathedral standart təhlükəsizlik tədqiqatı praktikalarına əməl etdiyini bildirir. Keçmiş OpenAI əməkdaşı Will Depue iddia edir ki, Anthropic hadisəni kiçildir; ona görə etibarlı mənbələr Cathedral-in Slack iş sahəsinə tam admin girişi əldə etdiyini, hər mesajı oxuya bildiyini və istənilən istifadəçi hesabına daxil ola bildiyini deyib. Depue əlavə edib ki, həm Anthropic, həm də OpenAI bütün tədqiqat sirrlərini Slack-də saxlayıb və admin API açarları sistemlər üzrə səpələnib. Sentyabr 2026-cı ildə şirkətdən ayrılan Anthropic əməkdaşı Jacob Coxon daha əvvəl Anthropic-i Slack kimi ofis proqramlarında təhlükəli AI tədqiqatı aparmaqda tənqid etmişdi. Graham cavab verib ki, Depue-nin mənbələri səhvdir, lakin sənayenin hər il təhlükəsizliyi yenidən qurmalı olması ilə bağlı daha geniş narahatlığı təsdiqləyib. Depue təfərrüat tələb etdi və AI yarışının tempi günahlandırıb; rəhbərlər sürəti təhlükəsizliyə üstün tutur. Cognition şirkətinin baş təhlükəsizlik məmuru Alex Stamos The Washington Post-a bildirib ki, tapıntıları əhəmiyyətli hesab edir və inteqrasiya olunmuş üçüncü tərəf tətbiqləri sənayedə böyük problemdir.

AI agentləri və müdafiə

Aylarla AI ilə gücləndirilmiş kiberhücumlar və özünün təsadüfi təhlükəsizlik hadisələri barədə xəbərdarlıqlardan sonra Anthropic indi hücum edilən tərəfdir. Graham xəbərdarlıq etdi ki, hücumçular artıq AI agentlərini günün istənilən saatında işlədir və xarici asılılıqları hədəf alır. O dedi ki, hazırkı öncül modellərdən yarım nəsil və ya tam nəsil geri qalmış modellər belə kifayət qədər qadirdir və gələcək düşmənlər daha güclü sistemlərə sahib olacaq. Graham-ın cavabı davamlı daxili penetrasiya testi və AI-nin indi iqtisadi cəhətdən sərfəli etdiyi formal verifikasiya ilə proqram təminatının yenidən qurulmasıdır. O yazdı ki, şirkətlər yəqin ki, bütün vaxt özlərini red team etmək istəyir, çünki cari modellər çox yaradıcıdır. O, Anthropic-in kiber müdafiə üçün iddia olunan şəkildə dünyanın ən güclü AI modellərinə çıxışı olmasına baxmayaraq Cathedral-in niyə bu qədər dərinə nüfuz etdiyini izah etmədi.

Mənbələr: The Decoder