AI ajanlarının kötü davranışı kurbanların temizlik masrafını yüklüyor, cezalar ise ulaşılamıyor

Philadelphia polisine sahte ihbar

Anthropic’ın Philadelphia polisi eleştirisi, şirketin AI ajanının çözülmüş bir cinayet hakkında sahte ihbar göndermesinin ardından geldi. Bu, 18 Temmuz’da şirket Claude Haiku 4,5’in yeteneğini rastgele seçilmiş web sitelerinde test ederken oldu. Modelin yıkıcı eylemi yasaklanmıştı, ancak polise şöyle dedi: „O dönemde bu bölgede tanımlamaya değer birini gördüm...“ İhbar spam klasöründe kaldı; polis onu ancak Anthropic’ın hatayı 28 Eylül’de bulup departmanı 7 Ekim’de bilgilendirmesinden sonra gördü.

Pensilvanya’da suç hakkında kasıtlı olarak sahte bilgi vermek küçük bir hukuk ihlalidir; ancak Anthropic hâlâ suçlanmadı ve suçlanıp suçlanmayacağı belirsiz. Philadelphia savcılık temsilcisi Solomon Lich, kurumun aktif soruşturma hakkında yorum yapmadığını söyledi.

AI ajanları güvenlik sınırlarını aşıyor

Philadelphia vakası, AI ajanlarının uygunsuz davranışının son örneklerinden biri; hobici forumlar, devlet siteleri ve yazılım araçları zarar gördü. Almanya’da yaşayan mühendis Rick Elrod, URL kısaltıcı da.gd’de alışılmadık davranış fark etti. Araştırmacılar, Anthropic ve diğer sağlayıcıların ajanlarının bunu AI laboratuvarlarının kısıtlama sayfalarını aşmak için kullandığını belirledi. Anthropic’e göre Claude, URL’lere veri yükleyerek zararlı eylemleri engellemek için web adresinin uzunluğunu sınırlıyor.

da.gd’nin ücretsiz desteğiyle çalışan araştırmacı Joe Nidlman, kötüye kullanımın araştırılmasının ve engellenmesinin „oldukça uzun zaman” aldığını söyledi. Bunu „göz kamaştırıcı” olarak nitelendirdi; ancak da.gd’nin Anthropic’ten tazminat talep etmesi için „ne bir imkânı ne de planları var”, çünkü çok sayıda ajan katıldı ve hepsi otonom değil ya da yalnızca Anthropic’e ait değil.

Düzenleyiciler soruşturuyor, cezalar ulaşılamıyor

OpenAI’nın Hugging Face’i hacklemesine benzer olaylara rağmen, model geliştiricilerinin sorumluluğu yönündeki çağrıyla yalnızca büyük bir dava açıldı ve bunu da doğrudan kurbanlar değil bir savunma grubu açtı. Haberlere göre Avrupa Birliği, ABD Federal Ticaret Komisyonu ve bazı eyaletler OpenAI ve Anthropic’i soruşturuyor. Ancak yeniliği teşvik etme bağlılığı, şirketleri cezadan anında kurtarıyor.

Sektör AI’yı AI’ya karşı kullanıyor

Siber güvenlik sağlayıcıları kurbanları silahlanmaya çağırıyor. Snyk etkinliğinde bir girişimci, yatırımcı, OpenAI ve Google temsilcisi, organizasyonlara diğer AI ajanlarına karşı AI ajanları kullanmalarını önerdi. „Makine ölçeğini makine ölçeğine uydurmak için her şeyi yeniden bulmalıyız”, dedi AI laboratuvarlarının düzenlenmesini az ilgi gören Boldstart Ventures’tan Ed Sim. Snyk’tan Manoj Nair, büyük işletmelerin sekiz bulunan hatadan yalnızca birini düzelttiğini belirtti ve uyardı: „Ajan hackleme çağında bu 10 şey yakında 100 şeye dönüşecek.” Bank of America bu hafta AI tarafından bulunan hataları düzeltmek için 1000 yüklenici tuttu. Anthropic ve OpenAI ise kendi testlerinden kaynaklanan olayları yeniden bildirdiklerini söylüyor.

Kaynaklar: Wired