Akrites фільтрує шум звітів AI про вразливості для супровідників open-source

Звіти AI перевантажують супровідників

Супровідники відкритого коду перевантажені звітами про безпеку, створеними інструментами AI, які є неточними, повторюваними та містять недостатньо деталей для написання патчу, — заявляють CTO Akrites та головний архітектор безпеки Open Source Security Foundation Крістофер Робінсон і архітектор безпеки Linux Foundation з напрямку AI та агентних систем Лора Гуазелі. Під час виступу на Open Source Summit Europe в Празі Робінсон сказав, що AI знизив бар’єр для полювання на вразливості, що призвело до потоку перевірок від людей без облікових даних безпеки.

Обидві виступили після доповіді на пов’язаній конференції, де старший директор OpenSSF Едріан Маркум напівжартома вжив термін «vibe researching» для зростаючого використання AI для пошуку багів. Робінсон оцінив, що на перегляд одного pull request щодо безпеки інженеру може знадобитися до восьми годин. Він описав ці звіти як багатослівні, вкрай неточні та схильні до перебільшення важливості, а Гуазелі сказала, що моделі часто не помічають більш широкі засоби контролю безпеки, які можуть зробити проблему, згадану у звіті, нешкідливою.

Спільна платформа реагування

Akrites, який Linux Foundation оголосив у червні, намагається працювати як команда реагування на інциденти безпеки для всіх. Вона об’єднує звіти про вразливості, перевіряє висновки та координує виправлення з супровідниками угору (upstream). Робінсон сказав, що Akrites використовує AI для оцінки вхідних звітів та пошуку дублікатів, а майбутні інженери додадуть людську перевірку, перш ніж матеріали дійдуть до супровідників проекту.

Серед засновників, серед інших, є Anthropic, OpenAI, Google, Microsoft, AWS, NVIDIA, Cisco, IBM, Red Hat, Citi та JPMorganChase. Робінсон сказав, що від членів очікується внесок інженерних ресурсів, до 10 інженерів на повну зайнятість від кожного, а деякі фінансові інститути замість цього дають більше грошей, оскільки їхня внутрішня політика не дозволяє вносити вклад у upstream. Він оцінив кількість майбутніх інженерів приблизно в 200 і сказав, що мета полягає в тому, щоб звіти стали лаконічнішими та зрозумілішими, з тестовими випадками, підтвердженнями концепції та патчами.

Фінансування та власність

Akrites — не єдиний проект Linux Foundation, який використовує AI для безпеки відкритого коду. Open Source Cyber Reasoning System, або OSS CRS, розробляє інструменти на основі AI, які допомагають проектам досліджувати вразливості та генерувати виправлення. Гуазелі сказала, що мета — не лише підтвердження вразливості, а й надання якомога кращого патча, щоб нові вразливості не потрапляли в код, а наявний функціонал не ламався.

Робінсон сказав, що ця робота дорога, оскільки вимагає значних обчислювальних потужностей та LLM, а витрати включають інфраструктуру та токени. Він сказав, що корпоративні члени забезпечують фінансову підтримку, і підкреслив, що супровідники відкритого коду не повинні нести витрати в одноосібному порядку. У приблизній оцінці на основі накопиченого звіту черги він сказав, що комерційні організації можуть забирати патчі, але виправлення мають надходити до upstream-проектів, а не залишатися ізольованими.

Джерела: The New Stack