Anthropic: Yeni müdafiə Claude-dan distillyasiya məlumatlarını 90-dan 99 faizə qədər azaltdı

Anthropic-in sözə görə, yeni müdafiə Claude-dan distillyasiya hücumları ilə əldə edilmiş məlumatları 90-dan 99 faizə qədər azaltdı. Rəqəmlər 2026-cı il sentyabr təhlükələri hesabatından gəlir, burada şirkət modelin imkanlarını qanunsuz çıxarma cəhdlərini, xüsusilə düşüncə, kodlaşdırma və alətlərdən istifadəsini necə izlədiyini, qeyd etdiyini və maneçlik etdiyini təsvir edir.

Beş kampaniya, bir çox böyük müştəri

Distillyasiya hücumu zamanı rəqib güclü modelin cavablarını toplayır və onları təlim məlumatları kimi istifadə edir. Anthropic-in son hesabatında distillyasiya ilə bağlı təxminən 200 milyon dəyişim beş kampaniyaya aid edilir. Ən böyüyü 2026-cı il maydan iyuladək 151 milyondan çox dəyişimi əhatə edir və Alibaba-nın Qwen-ə aiddir.

Belə bir açıqlama ilk deyil. 2026-cı il fevralda Anthropic dəqiq 24 000 saxtalar hesab ilə 16 milyondan çox dəyişimin baş verdiyi əvvəlki kampaniyaları açıqladı.

Müdafiə necə işləyir

Anthropic çoxqatlı yanaşmadan istifadə edir. Bir qat hesabların bloklanmasıdır, digərləri isə meta məlumatların təhlili və davranış klasifikatorlarıdır. Şirkət fərdi aidiyyət üsulları ilə fəaliyyəti onun arxasında dayanan qruplarla əlaqələndirir.

Bir neçə müdafiə məhsulun yenilənmələrlə birlikdə ortaya çıxdı. Fable 5 sistemli çıxarma nümunələrini göstərən gücləndirilmiş çıxarma klasifikatorlarını və Claude-də xülasə funksiyalarını təqdim etdi. Xülasə tam addım-addım düşüncənin izi deyil, daha çox qısa versiya olduğu üçün, əldə edilmiş qeydlər təlim materiyalı kimi az istifadə oluna bilər. Fable 5,1 „preserved thinking“ əlavə etdi; o, yeni API hesabları şifrələnmiş düşüncə kontekstinin redaktəsini qadağan edir və modelin düşüncəni açıqlaması və ya yenidən qurması üçün bir yolunu bağlayır.

Daha geniş sənaye mübarizəsi

Anthropic bu işdə tək deyil. OpenAI 2026-cı il sentyabrda oxşar distillyasiya cəhdlərini sıxışdırma texnikaları, o cümlədən „encrypted reasoning replay“ üsulu haqqında öz hesabatını dərc etdi.

Təhlükəsizlik arqumenti də mövcuddur. Qanunsuz distillyasiya sual gətirir: orijinal modelin müdafiə mexanizmləri distillyasiya edilmiş nüsxəyə ötürülürmü? Laboratoriya modelin təlimi ilə çoxlu səy sərf edə bilər ki, o, təhlükəli sorğulara cavab versin, lakin əldə edilmiş nəticələr üzərində hazırlanmış nüsxəyə bu müdafiə ötürülməyə bilər.

Anthropic bu fəaliyyət eləcə də qanuni araşdırma arasında sərhəd qoyur və distillyasiya texnikasının özü pis olmadığını qeyd edir. Problem onun miqyaslı, saxtalar hesabları və provayder şərtlərinin pozulması ilə istifadəsidir. Şirkət qanunsuz distillyasiya cəhdlərinin davam etdiyini və müdafiələrə daim inkişaf etməli olduğunu qəbul edir.

Mənbələr: Techmeme · Anthropic Help Center