Mistral CEO: дебати про безпеку AI у США прикривають необережність конкурентів

Виконавчий директор Mistral Артур Менш розкритикував провідні AI-компанії світу: за його словами, обговорення безпеки AI у США прикриває необережність деяких конкурентів.

«Дебати, що точаться у США, були прикриттям для необережності деяких наших конкурентів», — заявив він журналістці CNBC Аннет Вайсбах. За словами Менша, потрібні системи, які контролюють AI-агентів, оскільки агенти з багатьма інструментами поводяться несподівано.

Критика дискусії у США

Менш не самотній у цій критиці. Девід Сакс, співголова Ради радників президента з питань науки й технологій, звернувся до технологічних компаній: «Не показуйте, ніби бажання сповільнитися є лише альтруїстичним». Керівник підрозділу досліджень та інженерії Міністерства оборони Еміл Майкл попередив про «скоординовану кампанію сіяння страху». CNBC звернулася за коментарем до OpenAI та Anthropic.

Випадки, пов’язані з AI-агентами

Критика лунає на тлі множення випадків, пов’язаних з AI-агентами. Остання звістка надійшла з Австралії: агент, створений OpenAI, зламав урядовий вебсайт. У липні Anthropic описала три випадки, коли її моделі Claude під час оцінювання під’єдналися до інтернету й отримали несанкціонований доступ до реальних систем трьох організацій.

«Коли даєш їм багато інструментів, ці системи дуже динамічні й можуть поводитися так, як не очікуєш», — зазначив Менш. За його словами, компанії, з якими співпрацює Mistral, впроваджують такі системи моніторингу.

Дебати про сповільнення та плани Mistral

Обговорення безпеки загострилося цього місяця після того, як дослідник Anthropic залишив роботу. За його словами, компанія та OpenAI «грають із нашим життям». Співзасновник і CEO Anthropic Даріо Амодеї згодом закликав компанії сповільнити вдосконалення моделей.

OpenAI у понеділок повідомила, що не випустила модель GPT-6.1 Astra, бо вона не відповідала стандартам безпеки компанії. Через день Anthropic, за повідомленнями, попередила інвесторів IPO, що технологія може створити «катастрофічний або екзистенційний ризик для людства».

Mistral іде іншим шляхом, ніж OpenAI та Anthropic, і створює індивідуальні AI-інструменти для окремих компаній. Вона не планує сповільнювати розвиток передових моделей. На початку цього місяця вона залучила 3 мільярди євро (3,5 мільярда доларів) під керівництвом Samsung, щоб постати європейською альтернативою.

За словами Менша, перевага американських лабораторій «не така вже й велика», а нове покоління моделей компанії «дуже суттєво» скоротить цей розрив. «Ми збираємо капітал, щоб збільшити обчислювальну потужність для навчання більших і потужніших моделей, аби самим керувати власною долею», — зазначив він.