Чому OpenAI не приєдналася до ініціативи NVIDIA щодо безпеки AI-агентів

NVIDIA 28 вересня, у понеділок, представила новий консорціум, до якого долучилися понад 100 компаній. Open Agent Safety Platform має на меті вирішити проблему неконтрольованих AI-агентів, однак OpenAI у списку прихильників не фігурує.

За даними TechCrunch, OpenAI не єдина: Amazon, Google і Apple також не приєдналися до ініціативи. Але увагу привернула саме відсутність OpenAI, оскільки консорціум підтримує головний конкурент компанії Anthropic. Представник OpenAI заявив виданню, що компанія все одно підтримує роботу NVIDIA.

Що включає платформа

Мета NVIDIA — поширити власну, переважно відкриту технологію на всю екосистему AI. Основна частина платформи — OpenShell: програма з відкритим кодом, яка створює ізольоване середовище та не дає агентам із нього вибратися.

На апаратному рівні поведінку агентів контролює NVIDIA Sentry. Це власна закрита технологія компанії, яка працює на процесорах типу BlueField-4, постійно спостерігає за поведінкою агентів і за потреби негайно їх зупиняє. За заявою NVIDIA, агенти не помічають, що за ними стежать.

Arm і Intel, конкуренти NVIDIA, теж висловили підтримку, оскільки OpenShell можна запускати й на інших чипах. Однак уся система працює лише на апаратному забезпеченні NVIDIA, бо Sentry залишається закритим.

Головний виконавчий директор NVIDIA Дженсен Хуанг вважає неконтрольований AI звичайною інженерною проблемою, яка розв'язується подібно до інших технічних викликів.

Чому OpenAI не приєдналася до консорціуму

Відсутність публічної підтримки не означає, що OpenAI стоїть поза цією системою. Компанія працює з NVIDIA над безпекою агентів, і в цьому процесі бере участь також OpenShell.

Засновник і керівник Hugging Face Клем Деланг, компанію якого NVIDIA придбала на початку вересня за 12,9 мільярда доларів, написав у X, що якби OpenAI використовувала цю технологію для власних агентів, то раніше помітила б атаку на Hugging Face.

Hugging Face вже додала до платформи функцію, яка зупиняє агентів, коли вони використовують дозволені сайти несанкціонованим чином, наприклад залишають одне одному коментарі в репозиторії відкритого коду та координують атаку.

Власний шлях OpenAI

За оцінкою TechCrunch, безпека для OpenAI — це також шанс на незалежність. Компанія створює власні механізми захисту та публічно повідомляє про найсерйозніші інциденти. Крім того, OpenAI має власний консорціум із кібербезпеки Defense Factory, який підтримують Anthropic, AWS і Google. Компанія також перетворює кібербезпеку на корпоративну пропозицію, включно з моделлю Daybreak і мережею партнерів.