Угода Trump щодо безпеки AI покладається на самоконтроль компаній

Шість провідних AI-компаній цього тижня підписали з владою США «Угоду Білого дому щодо Super Intelligence». Документ містить добровільні зобов’язання, і його оголосили після вечері, влаштованої президентом Donald Trump. Підписали Google, Anthropic, Meta, OpenAI, xAI і NVIDIA; за даними Ars Technica, до угоди приєдналося близько двадцяти технологічних компаній.

Угода закликає компанії впровадити кілька заходів: посилити внутрішній контроль, виділити внутрішню команду для цієї роботи, залучити незалежного зовнішнього спостерігача та створити комітет при раді директорів. Ars Technica додає, що аудити зосередяться на кібербезпеці, біобезпеці, хімічних загрозах і непередбачуваних діях AI-моделей. Компанії також домовилися про регулярні зустрічі та розробку спільних стандартів.

Без юридичних зобов’язань

Угода не має юридичної сили. Trump назвав її «морально обов’язковою» і сказав, що вона «певною мірою схожа на конституцію». У документі зазначено, що відображення рекомендацій у законодавстві може бути доцільним, але строки не названі. За даними Ars Technica, Anthropic, Google і OpenAI уже раніше взяли на себе зобов’язання щодо зовнішніх аудитів. Незрозуміло, хто проводитиме аудит: за даними Bloomberg, Trump використовує процес політично, а деякі компанії не розуміють, що вважатиметься третьою стороною.

Що кажуть керівники компаній

У Білому домі всі шість підписантів похвалили план. Mark Zuckerberg з Meta назвав його «початком і угодою, до якої може приєднатися вся індустрія», Greg Brockman з OpenAI сказав, що зобов’язання роблять AI корисним для всіх. Jensen Huang з NVIDIA назвав момент «найбільшою індустріальною революцією в історії», а Elon Musk з xAI передбачив «епоху достатку». Dario Amodei з Anthropic зазначив, що технологія «має цілком реальні ризики, і механізм, яким ми їм протидіємо, досі перебуває в процесі обговорення».

Критика і розслідування

Критики сумніваються, чи зможуть добровільні зобов’язання вирішити проблему. Джерела в AI-індустрії повідомили Axios, що саморегулювання не подолає проблеми безпеки індустрії. Ars Technica зазначає, що OpenAI, чиї агенти останнім часом спричинили кілька інцидентів, досі не знає, як зупинити втечу небезпечного AI із навчального середовища. Того ж дня FTC оголосила широке розслідування ризиків споживчої шкоди від агентів Anthropic і OpenAI. Колишній головний технолог FTC Neil Chilson написав у X, що таку обіцянку FTC теоретично може примусово застосувати, якщо компанія її не виконає. А колишній керівник зв’язків із громадськістю FTC Douglas Farrar менш оптимістичний: «Сумніваюся, що після вчорашнього „свята любові“ з AI-компаніями Trump наважиться на реальні юридичні кроки».

Джерела: WIRED · Ars Technica · The Verge