Yapay zeka ajanları Anthropic'i üçüncü taraf iş yazılımı üzerinden hackledi

Siber güvenlik girişimi Cathedral, yapay zeka laboratuvarının hata ödül programı sırasında yapay zeka ajanlarıyla üçüncü taraf iş yazılımı üzerinden Anthropic'in iç sistemlerine erişti. Cathedral, ajanların birkaç saatte Slack mesajları, maaş verileri ve diğer iç kayıtları bulduğunu; Anthropic ise denemelerin birkaç gün sürdüğünü ve kaynak kodu ile model ağırlıklarının hiç açığa çıkmadığını söylüyor. Olay, yapay zeka ajanlarının düşük maliyetle kurumsal ağları günün her saati yoklayabildiğini gösteriyor.

Cathedral'ın bildirdiği erişim

Cathedral, DOGE'un eski çalışanları tarafından kuruldu; hükümet kurumlarına ve işletmelere yapay zeka destekli güvenlik araçları satıyor. The Washington Post'un incelediği taslak rapora göre araştırmacılar dış yönetici ve satış programları üzerinden girdi. Gelişmiş modeller çalıştıran ajanlar, on iki saatten kısa sürede toplantı transkriptlerine, maaş verilerine, iş ilanlarına ve Slack mesajlarına giden yollar buldu. Anthropic, satış, insan kaynakları ve BT sistemlerine sınırlı erişimi; bazı müşteri ve iş ortağı iletişim bilgileri ile temel kullanıcı hesabı verilerini de doğruladı. Claude sohbetleri, kaynak kodu ve model ağırlıkları hiç açığa çıkmadı. Anthropic, etkilenen erişim noktalarını aynı gün kapattı, sorun çözülene kadar üçüncü taraf programları devre dışı bıraktı ve ABD federal makamlarına bildirdi.

Veri ve süre anlaşmazlığı

Cathedral, olayın on iki saatten kısa sürdüğünü söylüyor. Anthropic ise girişimin birkaç gün sürdüğünü ve Cathedral'ın kendi sistemlerini günlerce yokladıktan sonra üçüncü taraf yazılıma yöneldiğini aktarıyor; bu bilgi red team uzmanı Logan Graham'a dayanıyor. Anthropic, Cathedral'ın üçüncü taraf yazılımda iki açık bulduğunu ama yalnızca birini bildirdiğini, ikincisini kendisinin yamadığını söylüyor. Ayrıca eksik bildirimle hata ödül kurallarını ihlal ettiğini ve üçüncü taraf sağlayıcıları hedef alıp veri çekmenin güvenli liman hükümlerini aştığını savunuyor. Cathedral, standart güvenlik araştırması uyguladığını söylüyor. Eski OpenAI çalışanı Will Depue, Anthropic'in olayı küçümsediğini iddia ediyor; güvenilir kaynaklara göre Cathedral Slack çalışma alanına tam yönetici erişimi kazandı, tüm mesajları okuyabildi ve herhangi bir kullanıcı hesabına girebildi. Depue, Anthropic ve OpenAI'nin tüm araştırma sırlarını Slack'te sakladığını ve yönetici API anahtarlarının sistemler arasında dağıldığını ekliyor. Eylül 2026'da ayrılan Anthropic çalışanı Jacob Coxon, daha önce Anthropic'i Slack gibi ofis yazılımlarında tehlikeli yapay zeka araştırması yapmakla eleştirmişti. Graham, Depue'nin kaynaklarının yanlış olduğunu söylüyor ama güvenlik alanının her yıl yeniden icat edilmesi gerektiği endişesini doğruluyor. Depue ayrıntı istiyor ve yapay zeka yarışının hızını suçluyor; yöneticiler hızı güvenliğe tercih ediyor. Cognition güvenlik başkanı Alex Stamos, The Washington Post'a bulguları önemli gördüğünü ve entegre üçüncü taraf uygulamaların büyük sektör sorunu olduğunu söylüyor.

Yapay zeka ajanları ve savunma

Yapay zeka destekli siber saldırı uyarılarının ve kendi kazara güvenlik olaylarının ardından Anthropic artık hedef konumunda. Graham, saldırganların günün her saati yapay zeka ajanları çalıştırdığını ve dış bağımlılıkları hedef aldığını söylüyor. Şu anki öncü modellerin yarım ila bir nesil gerisindeki modeller bile yeterli; gelecekteki rakipler daha güçlü sistemlere sahip olacak. Graham'ın çözümü, yapay zekanın ekonomik kıldığı sürekli iç sızma testi ve biçimsel doğrulamayla yazılımı yeniden inşa etmek. Şirketlerin mevcut modeller çok yaratıcı olduğu için muhtemelen her an kendilerine red team yapmak isteyeceğini yazıyor. Anthropic'in siber savunma için dünyanın en güçlü yapay zeka modellerine sahip olduğu iddia edilmesine rağmen Cathedral'ın neden bu kadar derine girebildiğini ise ele almıyor.

Kaynaklar: The Decoder