Anthropic açıq kod layihələri üçün pulsuz AI təhlükəsizlik skaneri buraxdı

Zəifliklər üçün pulsuz AI skan

Anthropic yeni xidməti OSS Scanner-i buraxdı, bu xidmət açıq kod layihələrinə təhlükəsizlik üçün pulsuz skan təklif edir. Şirkətin sözlərinə görə, bu xidmətə qoşulan layihələr Anthropic-in ən güclü modelləri ilə aparılan əsaslı, dövri təhlükəsizlik skanını pulsuz alacaqlar. Anthropic-in bəyanatına görə, məqsəd açıq kod layihələrinə böyük müdafiə üstünlüyi vermək və mümkün təhlükəsizlik problemləri barədə daha erkən xəbərdar etməkdir.

Model tərəfindən yaradılan hesablar insan yoxlaması olmadan gəlir

Zəiflik hesablarını tamamilə Anthropic-in ən güclü modelləri, o cümlədən Claude Mythos, yaradır və onlar insan tərəfindən yoxlanmır və ya triaj edilmir. Anthropic-in sözlərinə görə, bu yanaşma daha sürətli və tez-tez skan etməyə imkan verir, lakin şirkət qəbul edir ki, hesablar səhv və ya etibarsız ola bilər. Şirkət xidməti açıq kod ekosistemi üçün müdafiə aləti kimi təqdim edir və ənənəvi təhlükəsizlik auditinin əvəzi kimi deyil.

AI ilə zəifliklərin axtarışı ayaq basır

OSS Scanner açıq kod proqramlarında zəifliklərin axtarışını hədəf seçən ilk AI aləti deyil. Son aylarda AI alətləri əhəmiyyətli təhlükəsizlik zəifliklərinin aşkarlanmasına kömək etdi, o cümlədən “Copy Fail” zəifliyi may ayında demək olar ki, bütün Linux distributivlərində təsir göstərdi. Eyni zamanda bəzi açıq kod layihələri AI tərəfindən yaradılan zəiflik hesablarının gözlənilmiş axınına uyğunlaşmağa çətinlik çəkir, o cümlədən Linus Torvalds və Google özləri də. Bu gərginlik həm AI köməyi ilə təhlükəsizlik skanının perspektivini, həm də onun artımı ilə bağlı çətinlikləri açıq kod dünyasında göstərir.

Mənbələr: The Verge Ai · Techmeme