Anthropic-ը. նոր պաշտպանությունը կրճատել է դիստիլյացիայի տվյալների հավաքածուն Claude-ից 90-ից 99 տոկոս

Anthropic-ի կարծիքով, նոր պաշտպանությունը կրճատել է Claude-ից դիստիլյացիայի հարձակումներով ստացված տվյալները 90-ից 99 տոկոս: Թվերը վերցված են 2026 թվականի սեպտեմբերի վտանգների հաշեվից, որտեղ ընկերությունը նկարագրում է, թե ինչպես է հետևում, վերագրում և խոչընդոտում մոդելի հնարավորությունների օրինակով հանելու փորձերը, հատկապես մտածողության, կոդավորման և գործիքների օգտագործման գործում:

Հինգ քամփեյն, մեկ շատ մեծ օգտատեր

Դիստիլյացիայի հարձակման ժամանակ մրցակիցը հավաքում է ուժեղ մոդելի պատասխանները և դրանք օգտագործում է որպես ուսուցողական տվյալներ: Anthropic-ի վերջին հաշեվում դիստիլյացիայի հետ կապված մոտ 200 միլիոն փոխանակում վերագրվում է հինգ քամփեյնի: Դրանցից ամենամեծը 2026 թվականի մայիսից հուլիս ընթացքում 151 միլիոնից ավել փոխանակում է ընդգրկել և կապված է Alibaba-ի Qwen-ի հետ:

Նմանատիբ բացահայտումը առաջինը չէ: 2026 թվականի փետրվարին Anthropic-ը բացահայտել է նախորդ քամփեյներ, որտեղ 16 միլիոնից ավել փոխանակում է կատարվել մոտ 24 000 խաբեբայական հաշվով:

Ինչպես է աշխատում պաշտպանությունը

Anthropic-ը օգտագործում է բազմաշերտ մոտեցում: Մեկ շերտը հաշիվների արգելափակումն է, մյուսները՝ մետատվյալների վերլուծություն և վարքային դասակարգիչներ: Ընկերությունը կազմակերպչական համապատասխանեցման մեթոդներով գործունեությունը կապում է դրա ետևում գտնվող խմբերի հետ:

Մի քանի պաշտպանություն հայտնել է արտադրանքի թարմացումների հետ միասին: Fable 5-ը ներդրել է ամրապնդված հանելու դասակարգիչներ, որոնք նշում են համակարգային հավաքածուի օրինակները, և ընդգրկել է համառոտման ֆունկցիաներ Claude-ում: Քանի որ համառոտումը լրիվ քայլ առ քայլ մտածողության հետք չէ, այլ կրճատված տարբերակ է, ստացված գրառումները ուսուցողական նյութ համար ավելի քիչ օգտակար են: Fable 5,1-ը ավելացրել է «preserved thinking»; այն նոր API հաշիվներին արգելում է գաղտնագրված մտածողության համատեքստի խմբագրումը և փակում է մոդելի մանիպուլյացիայի մեկ ճանապարհը, որպեսզի նա մտածողությունը բացահայտի կամ վերակազմի:

Ավելի լայն արդյունաբերական պայքար

Anthropic-ը այս գործում միայնակ չէ: OpenAI-ը 2026 թվականի սեպտեմբերին հրապարակել է իր սեփական հաշեվը նմանատիպ դիստիլյացիայի փորձերի կոտրման տեխնիկաների մասին, այդ թվում՝ «encrypted reasoning replay» մեթոդի մասին:

Գոյություն ունի նաև անվտանգության արգումենտ: Անօրինական դիստիլյացիան հարց է ծանրաբեռնում՝ փոխանցվում են թե ոչ բնօրինակ մոդելի պաշտպանության մեխանիզմները դիստիլյացված պատճենին: Լաբորատորիան կարող է մեծ ծախս ունենալ մոդելի վերապատրաստման վրա, որպեսզի նա մերժի վտանգավոր պահանջները, բայց ստացված արդյունքների վրա վերապատրաստված պատճենին այս պաշտպանությունը կարող է չփոխանցվի:

Anthropic-ը սահման է դնում այս գործունեության և իրավական հետազոտության միջև և նշում է, որ դիստիլյացիան որպես տեխնիկայի ինքնին չէ չար: Խնդիրը դրա մասշտաբային, խաբեբայական հաշիվներով և մատակարարի պայմանների խախտմամբ օգտագործման մեջ է: Ընկերությունը ճանաչում է, որ անօրինական դիստիլյացիայի փորձերը շարունակվում են և պաշտպանությունները պետք է մշտապես զարգանան:

Աղբյուրներ: Techmeme · Anthropic Help Center