Anthropic: Yeni savunma, Claude'dan distilasyon verisi toplamayı %90'dan %99'a azalttı

Anthropic'e göre, yeni savunma, Claude'a yönelik distilasyon saldırılarıyla elde edilen verileri %90'dan %99'a azalttı. Bu rakamlar, şirketin model yeteneklerinin yasadışı çıkarım girişimlerini nasıl izlediğini, atfettiğini ve engellediğini, özellikle akıl yürütme, kodlama ve araç kullanımında anlattığı Eylül 2026 tehdit raporundan alınmıştır.

Beş kampanya, tek çok büyük kullanıcı

Distilasyon saldırısı sırasında rakip, güçlü modelin yanıtlarını toplar ve bunları eğitim verisi olarak kullanır. Anthropic'in son raporunda distilasyonla ilişkili yaklaşık 200 milyon oturum beş kampanyaya atfediliyor. Bunların en büyüğü, Mayıs 2026'dan Temmuz'a kadar 151 milyondan fazla oturumu kapsıyor ve Alibaba'nın Qwen'ine bağlanıyor.

Böyle bir açıklama ilk değil. Şubat 2026'da Anthropic, 16 milyondan fazla oturumun yaklaşık 24.000 sahte hesapla gerçekleştiği önceki kampanyaları ortaya çıkardı.

Savunma nasıl çalışıyor

Anthropic çok katmanlı bir yaklaşım kullanıyor. Bir katman hesapları engeller, diğerleri meta veri analizi ve davranış sınıflandırıcılarıdır. Şirket, organizasyonel özellikleme yöntemleriyle aktiviteyi arkasındaki gruplarla ilişkilendiriyor.

Birkaç savunma ürün güncellemeleriyle birlikte sunuldu. Fable 5, sistematik çıkarım örneklerini işaretleyen güçlendirilmiş çıkarım sınıflandırıcılarını ve Claude'da özetleme işlevlerini tanıttı. Özetleme, tam adım adım akıl yürütme izi değil, kısaltılmış bir sürüm olduğundan, elde edilen kayıtlar eğitim materyali olarak daha az kullanışlıdır. Fable 5,1 "preserved thinking" ekledi; bu, yeni API hesaplarının şifrelenmiş akıl yürütme bağlamını düzenlemesini engeller ve modelin akıl yürütmeyi açıklaması veya yeniden yapılandırması için bir yolu kapatır.

Daha geniş endüstriyel mücadele

Anthropic bu alanda yalnız değil. OpenAI, Eylül 2026'da benzer distilasyon girişimlerini çözme teknikleriyle ilgili kendi raporunu yayınladı, arasında "encrypted reasoning replay" yöntemi de var.

Ayrıca güvenlik argümanı da var. Yasadışı distilasyon, orijinal modelin savunma mekanizmalarının distilasyon yapılmış kopyaya aktarılıp aktarılmadığını sorgular. Bir laboratuvar, modelin tehlikeli talepleri reddetmesi için eğitimde büyük çaba harcayabilir, ancak elde edilen sonuçlar üzerinde eğitilen kopya bu savunmayı taşımayabilir.

Anthropic, bu aktivite ile meşru araştırma arasındaki sınırı çiziyor ve distilasyonun teknik olarak kötü olmadığını belirtiyor. Sorun, bunun ölçekli, sahte hesaplarla ve sağlayıcı koşullarını ihlal ederek kullanılmasıdır. Şirket, yasadışı distilasyon girişimlerinin devam ettiğini ve savunmaların sürekli geliştirilmesi gerektiğini kabul ediyor.

Kaynaklar: Techmeme · Anthropic Help Center