Կիբերանվտանգության մասնագետները դժգոհ են Anthropic-ի Fable մոդելի սահմանափակումներից

Anthropic-ը երեքշաբթի թողարկեց Fable-ը՝ ներկայացնելով այն որպես իր կիբերանվտանգության Mythos մոդելի հանրային և սահմանափակ տարբերակ։ Մոդելին ուղեկցող սահմանափակումները դժգոհություն առաջացրին անվտանգության մասնագետների մոտ. նրանց խոսքով՝ ֆիլտրերը գործարկվում են նաև այն աշխատանքի վրա, որը կապ չունի համակարգերի վրա հարձակումների հետ։

Ֆիլտրերը արձագանքում են թեմային, ոչ հարցմանը

IBM X-Force-ի անվտանգության հետազոտող Վալենտինա «Չոմփի» Պալմիոտին գրել է, որ Fable-ը «մերժում է ցանկացած հարցում, որը նույնիսկ անուղղակիորեն կապված է կիբերի հետ, նույնիսկ այնպիսի անվնաս առաջադրանքներ, ինչպիսին բլոգի գրառում կարդալն է»։ Երբ հարցումը գործարկում է պաշտպանական մեխանիզմները, մոդելը դադարեցնում է չաթը և տեղեկացնում, որ «անվտանգության միջոցները նշել են այս հաղորդագրությունը որպես կիբերանվտանգության կամ կենսաբանության թեմա»։ Մեկ այլ հետազոտող X-ում նշել է, որ անգամ կոդի վերանայում խնդրելը բավական է ֆիլտրերը գործարկելու համար։

Ինչու են սահմանափակումները

Anthropic-ը դրանք մտցրել է, որպեսզի նվազեցնի Fable-ը վնասակար ծրագրեր գրելու կամ ծրագրային ապահովությունը վնասելու համար օգտագործելու ռիսկը՝ ընկերության վաղեմի մտահոգությունը։ Կենսաբանության սահմանափակումները բխում են կենսաբանական զենքի մասին նմանատիպ մտահոգությունից։ Մոդելը նաև ծրագրավորված է անցնել Claude Opus 4.8-ին, երբ գործարկվում է պաշտպանությունը։ Առանձին Anthropic-ը վարում է Cyber Verification Program. հաստատված անվտանգության մասնագետները Claude-ը կիբերաշխատանքի համար օգտագործում են ավելի քիչ սահմանափակումներով։ OpenAI-ն ունի նմանատիպ ծրագիր՝ Trusted Access for Cyber։

Mythos և Project Glasswing

Երբ Anthropic-ը ապրիլին թողարկեց Mythos-ը, այն հասանելի դարձրեց սահմանափակ թվով ընկերությունների ու կազմակերպությունների՝ Project Glasswing նախաձեռնության շրջանակում, որի նպատակը կրիտիկական ծրագրային ապահովության ու ենթակառուցվածքի պաշտպանությունն է։ Անցյալ շաբաթ ընկերությունը Mythos-ի հասանելիությունը ընդլայնեց 15 երկրի հարյուրավոր կազմակերպությունների համար։

Հիմնաբառերի համընկնում, ոչ դատողություն

Կիբերանվտանգության վետերան Մեթ Սուիշը, որն այժմ աշխատում է Tolmo AI անվտանգության ստարտափում, TechCrunch-ին ասել է. «Եթե խնդրես գրել անվտանգ կոդ, նա կարծում է, որ դա կիբերանվտանգության աշխատանք է, ոչ թե ծրագրային ինժեներիայի լավագույն փորձ, և դու աստիճանազրկվում ես»։ Նրա կարծիքով գործարկիչները հիմնված են հիմնաբառերի վրա, ուստի կիբերանվտանգության բառային դաշտի ամեն ինչ ակտիվացնում է դրանք։ Նա ավելացրել է, որ այս փուլում դա հասկանալի է, և սահմանափակումները հավանաբար կթուլանան ժամանակի ընթացքում. «Նման թողարկման ժամանակ ավելի լավ է շատերին բռնել, քան քչերին, իսկ սահմանափակումները հետագայում թուլացնել»։ Anthropic-ը մեկնաբանության հարցմանն անմիջապես չի պատասխանել։