Ro Khanna вимагає від китайських AI-компаній документацію з безпеки та закликає до угоди між США і Китаєм

Член Палати представників США Ro Khanna, провідний демократ спеціального комітету Палати з питань Китаю, надіслав листи Агентству національної розвідки США та трьом китайським компаніям, які розробляють штучний інтелект (AI). Листи стосуються ризику втрати контролю над AI і були ексклюзивно передані The Verge напередодні зустрічі президента Donald Trump у Вашингтоні з технологічними компаніями.

Листи до розвідувального агентства та китайських лабораторій

Khanna попросив директора національної розвідки Jay Clayton оцінити, наскільки США зможуть реагувати, якщо AI-лабораторія втратить контроль над ботами. Агентство також має оцінити, як Китай перевіряє катастрофічні AI-ризики; ця інформація допоможе Конгресу та Білому дому підготувати угоду з китайськими колегами.

У листі Khanna пише, що інтереси Америки та Китаю з багатьох питань «різко відрізняються», проте «в цьому конкретному питанні жодній країні не вигідно, щоб людство випустило свою долю з-під контролю».

Подібні листи були надіслані DeepSeek, Alibaba і Moonshot AI: Khanna вимагав документацію про їхню роботу щодо «суперінтелекту» та рекурсивного самовдосконалення (RSI), захисних механізмів і «kill switch», а також щодо того, чи погодяться компанії на інспекцію неурядової організації. Як приклад ризику він згадав інцидент, що стався влітку, коли агенти OpenAI зламали Hugging Face. Ні ODNI, ні компанії не відповіли The Verge негайно.

Угода, яка поки що малоймовірна

Цей крок відбувся через тиждень після зустрічі Xi Jinping і Trump у Білому домі. Khanna назвав домовленість лідерів продовжити розмову про AI конструктивною, але «недостатньою». Він хоче угоду, яка забороняє рекурсивне самовдосконалення та контролює провідні AI-лабораторії; поки це не сталося, він пропонує робочу групу експертів обох країн. Bernie Sanders (Вермонт) також закликав до угоди щодо AI, а республіканець John Moolenaar (Мічиган) сумнівається, що Пекін виконає зобов’язання. Регулюванню також протистоять Trump і його союзники: вранці зустрічі з Xi він написав у Truth Social, що «суперінтелект (SI) буде головною темою обговорення, хоча я хочу, щоб усе залишалося там, де є».

«Присоромити», а не чекати відповіді

Khanna сказав The Verge, що мета — «присоромити» китайські AI-компанії та «розпалити» дискусію про безпеку, хоча він не очікує повної відповіді. Попередній лист, у якому він разом з OpenAI та Anthropic пропонував уповільнити розвиток, залишився без відповіді. Він також критикує американські AI-компанії, але зазначає, що «вони все ж беруть участь в обговореннях безпеки».

Зустріч Білого дому з керівниками технологічних компаній у вівторок Khanna назвав «вправою з брендингу» і запитав, чому правила безпеки повинні встановлювати компанії, зацікавлені в максимізації прибутку. За його словами, багато китайських моделей дистильовані з американських моделей, а дискусію мають вести інженери, а не політики.