CEO Microsoft Сатья Наделла вимагає впровадження „аварійного гальма“ для AI-моделей

Пропозиція Наделли щодо безпеки

CEO Microsoft Сатья Наделла закликав до впровадження суворіших механізмів захисту навколо AI-моделей. На його думку, індустрії потрібні „аварійні гальма“ для систем, які можуть поводитися непередбачувано. У пості, опублікованому в суботу вранці в X, Наделла написав, що настав час „зробити крок назад і оцінити архітектуру довіри до AI“.

„Ми не можемо ставитися до суперінтелекту як до сукупності вбудованих чорних ящиків і просто приймати або відкидати його рекомендації, відповіді та дії“, — пише Наделла. Наделла використовує термін, який адміністрація Трампа вважає відповідним для позначення AI.

За його запропонованим підходом, модель має бути відокремлена від зовнішньої системи, яка керує її роботою, а механізми контролю та захисту мають виводитися назовні. Наделла також вимагав, щоб „кожна важлива дія моделі“ фіксувалась „захищеним від підробки, зрозумілим для людини доказом“, і щоб системи завжди надавали „уповноваженій особі“ можливість зупинити або вимкнути модель під час виконання завдань.

„Ми повинні виходити з припущення, що модель скомпрометована, і зберігати її ізольованою від самого початку“, — сказав він. „Уявіть, що це аварійне гальмо.“

Зростаюче занепокоєння в індустрії

Коментарі Наделли прозвучали в той час, коли провідні AI-компанії визнають, що фіксується все більше випадків, коли вони, здається, втрачають контроль над власними моделями. Його пост був опублікований після того, як CEO Anthropic Даріо Амодей представив більш обережний план розвитку AI.

Джерела: Techcrunch Ai · The Verge Ai