Akrites açıq kod dəstəkçiləri üçün AI təhlükəsizlik hesablarının səs-küyünü filtrə etməyə çalışır

AI hesabları dəstəkçiləri üzləşir

Açıq kod dəstəkçiləri AI alətləri tərəfindən yaradılmış təhlükəsizlik hesabları ilə üzləşir ki, onlar qeyri-dəqiq, təkrarlanan və yama üçün lazımi təfərruatdan yamansızdır, bildirir Akrites-in CTO-su və Open Source Security Foundation-un baş təhlükəsizlik arxitektori Kristofer Robinson və Linux Foundation-un AI və agent sistemləri üzrə təhlükəsizlik arxitektori Lora Guazel. Prada keçirilən Open Source Summit Europe-da nitq çıxışı zamanı Robinson dedi ki, AI zəiflikləri ovlamaq giriş həddini azaldı və təhlükəsizlik kredensiaları olmayan insanlardan yoxlamalar axını yaratdı.

Hər ikisi də əlaqəli konfransın hesabatlarından sonra səslənib ki, OpenSSF aparatının üzvü Edrian Markum yarı şəkildə "vibe researching" terminini AI-nın getdikcə artan istifadəsi üçün xəta axtarışında işlətdi. Robinson qiymətləşdirib ki, bir təhlükəsizlik pull request-inin nəzərdən keçirilməsi mühəndisə səkkiz saat qərəz vaxt apara bilər. O, bu hesabları uzun dəli, ən qeyri-dəqi və həddi aşmağa meyilli kimi təsvir etdi, Guzel isə dedi ki, modellər tez-tez hesabda göstərilən problemləri gizlədə biləcək daha geniş təhlükəsizlik nəzarətlərini aşkarlaya bilmir.

Ümumi reaksiya fenəri

Akrites, Linux Foundation tərəfindən iyun elan edilən, ümumi təhlükəsizlik hadisələrinə reaksiya verən kimi işləməyə çalışır. O, zəiflik hesablarını birləşdirir, nəticələri yoxlayır və upstream dəstəkçiləri ilə düzəlişlərin koordinasiyasını həyata keçirir. Robinson dedi ki, Akrites AI-dan daxil olan hesabları qiymətləşdirmək və dublikatları axtarmaq üçün istifadə edir, gələcək mühəndislər isə materiallar layihənin dəstəkçilərinə çatana qədər insan yoxlamasını əlavə edəcək.

Qurucu üzvlər arasında, digərləri ilə birlikdə, Anthropic, OpenAI, Google, Microsoft, AWS, NVIDIA, Cisco, IBM, Red Hat, Citi və JPMorganChase var. Robinson dedi ki, üzvlərdən mühəndis resurslarının daxil edilməsi gözlənilir, hər birindən 10 tam şbata işləyən mühəndisə qədər, bəzi maliyyə qurumları isə bunun əvəzinə daha çox pul verir, çünki daxili siyasət onlara upstream-də töhfə vermək imkanı vermir. O, gələcək mühəndislərin sayını təxminən 200-ə qiymətləşdirdi və dedi ki, məqsəd hesabların daha lakonik və anlaşıqlı olmasıdır, test halları, konsepsiya sübutları və yamalar ilə.

Maliyyələşdirmə və mülkiyyət

Akrites Linux Foundation-un açıq kod təhlükəsizliyi üçün AI-dan istifadə edən yeganə qüvvəsi deyil. Açıq kod Cyber Reasoning System, yəni OSS CRS, layihələrin zəiflikləri araşdırmağa və düzəlişlərin generasiyasına kömək edən AI-ə əsaslanan alətləri inkişaf etdirir. Guzel dedi ki, məqsəd yalnız zəifliyin təsdiqlənməsi deyil, həm də mümkün olan ən yaxşı yamanın təmin edilməsi ki, yeni zəifliklər daxil olmasın və mövcud funksional pozulmasın.

Robinson dedi ki, bu iş bahadır, çünki böyük hesab gücü və LLM-lər tələb edir, xərclər isə infrastrukturu və tokenləri əhatə edir. O dedi ki, korporativ üzvlər maliyyə dəstəyi göstərir və xətt çəkdi ki, açıq kod dəstəkçiləri xərcləri təkbaşına yükləməsin. Hesabın toplanması ilə əlaqədar sıra şərtlərində, o dedi ki, kommersiya təşkilatları yamaları götürə bilər, amma düzəlişlər upstream layihələrinə çatmalı və izolyasiya qalmamalıdır.

Mənbələr: The New Stack