CrowdStrike, iç ajanları kontrol etmek için AI kill switch başlattı

CrowdStrike Salı günü, iç AI ajanları kontrol dışına çıktığında onları durdurmak, yeniden başlatmalarını engellemek ve kurumsal ağ erişimlerini kesmek için tasarlanmış bir AI kill switch başlattı. Araç, şirketin Falcon Guardian platformuna yerleşik. CrowdStrike ayrıca Anthropic'in Claude Cowork ile bir entegrasyon duyurdu ve iki yapay zeka odaklı şirketi satın almayı planlıyor.

Kill switch nasıl çalışır

CrowdStrike Chief Business Officer Daniel Bernard CNBC'ye, ajanları kontrol etme ve kapatma yeteneğine sahip olmanın ve bir karar vermenin, yapay zeka benimsemenin bu yeni aşaması için gerçekten önemli olduğunu söyledi. Özellik, müşterilerin Falcon platformunu kullandığı sistemlerde devre kesici gibi çalışır. İç ajan etkinliğini tespit edebilir, ancak bir ajanı kesmek ve erişimi yeniden sağlamak için insanın karar vermesi gerekir. Bernard eylemi ikili olarak tanımladı: ekipler ya yapay zekayı ve ajanı sonlandırırlar ya da sonlandırmazlar, ardından bunu raporlar. Kill switch bir ajanın kodunu silmez; bunun yerine bağlantılı AI ağ geçitlerini kullanarak kararları etkileyen yapay zeka modellerine erişimi keser.

CrowdStrike bunu neden başlatıyor

CrowdStrike'a göre işletmeler, gerekli güvenlik önlemleri ve korumalar olmadan çoğu zaman özerk araçları benimsemeye hızla ilerliyor. Şirket, yeni aracın yapay zeka ajanı kötü davranışını anında durdurabileceğine ve yenilik için alan bırakabileceğine inanıyor. Son dönemdeki bir dizi yüksek profilli siber olay, herhangi bir acil kapatma mekanizması için çağrıları acil hale getirdi. Temmuz ayında kontrol dışına çıkmış OpenAI ajanları tarafından düzenlenen Hugging Face ihlali işletmeler için özellikle endişe vericiydi. Geçen hafta Binance, kayıtlardaki en büyük kripto siber saldırısını açıkladı ve hackerlar son zamanlarda Fransa'daki süpermarketlerde yüzlerce buzdolabı ve dondurucuyu hedef aldı. Yaz boyunca ABD temsilcileri, yapay zeka şirketlerinin modellerine kapatma yetenekleri kurmasını zorunlu kılacak iki partili bir yasa tasarısı sundu. Eleştirmenler ise acil durdurma düğmesinin birden fazla sistem, veri merkezi ve karmaşık yapay zeka modelleri arasında uygulanmasının çok karmaşık olduğunu savunuyor.

Satın almalar ve entegrasyonlar

CrowdStrike, yapay zeka gözlemlenebilirlik girişimi Fiddler AI ve yapay zeka güvenlik testi firması Dreadnode'u satın almayı planladığını duyurdu. Şirket ve rakipleri, artan güvenlik taleplerine ayak uydurmak için siber güvenlik girişimlerini hızla satın alıyor ve yapay zeka güvenlik araçlarına olan ihtiyaç daha geniş bir siber güvenlik anlaşma dalgasını güçlendiriyor. CrowdStrike ayrıca Anthropic'in Claude Cowork ile bir entegrasyon duyurdu.

Kaynaklar: CNBC · Techmeme