OpenAI та Anthropic закликали британських законодавців встановити обов'язкові правила для ШІ

Суперечка між лідерами ШІ

Представники OpenAI та Anthropic повідомили комітету парламенту Великої Британії, що добровільних зобов'язань із безпеки недостатньо і потрібні обов'язкові закони. Це загострило суперечку з Google DeepMind та Meta, які не підтримали нове законодавство.

Профільний комітет заслухав чотирьох провідних ШІ-компаній, чотирьох критично налаштованих колишніх працівників та високопосадових громадських діячів. Керівник європейського напрямку Anthropic Ліам Бут-Сміт сказав, що компанія «послідовно вважає, що для компаній мають бути обов'язкові правила, а добровільних зобов'язань недостатньо». Віце-президент OpenAI Том Даф Гордон підтримав законодавчо визначені рамки та міжнародну конвенцію, заявивши, що «деякі елементи мають бути обов'язковими», починаючи зі звітів про інциденти.

Конкуренти їх не підтримали. На питання, чи підтримують вони законодавчі рамки, керівник Google DeepMind Оуен Лартер сказав, що компанія зосереджена на стандартах. Роб Шерман із Meta вказав на наявних регуляторів Великої Британії та сказав парламентарям, що вони «не пишуть на чистому аркуші».

Добровільний режим

Громадські службовці визнали, наскільки мало зобов'язань накладає діюча система. Британський AI Security Institute перевіряє провідні моделі до їхнього випуску, але лише якщо компанії самі передають їх. Його директор Генрі де Зут визнав, що інститут повністю залежить від співпраці компаній і іноземних урядів. Високопосадовий громадський службовець Кейт Літтл підтвердила, що режим добровільний: «Зараз, так, це так».

Де Зут визнав, що AISI не має права зупинити компанію, яка, на його думку, випускає надто небезпечну модель, і сказав, що інститут не сертифікує ці моделі. Він зазначив, що провідні компанії є американськими чи китайськими, і що «як Великобританія, ми маємо обмежені можливості». Керівники також зазначили, що доступ Великої Британії до Вашингтона має значення, а OpenAI сказала, що продовжить ділитися моделями з AISI «поки зможе це робити в умовах уряду США».

Критики та попередження

Чотири колишні лабораторні дослідники дали свідчення, зокрема колишній працівник OpenAI Даніел Кокотайло, який сказав: «Я не думаю, що компаніям можна довіряти саморегулюванню». Стівен Адлер, який покинув OpenAI наприкінці 2024 року, сказав, що не впевнений у культурі безпеки галузі. Джеффрі Ірвінг сказав, що лабораторії неправильно думають, ніби вони затиснуті в перегонах, які уряди не зможуть зупинити.

Слухання збіглися з попередженням директора MI5 Кена Маккалума, що ШІ може «змінити спрямування існуючої або навіть нової біологічної зброї». Голова комітету Ліам Бірн сказав, що контраст між цим попередженням і добровільним режимом «говорить усе, що треба знати». Він хоче, щоб міністри використали майбутнє головування Великої Британії в G20 разом із Південною Кореєю, щоб сприяти прийняттю міжнародної конвенції, яка не залежатиме від нинішньої «білої будівлі», і попередив, що «ризики швидко зростають щодо контролю над нашим режимом безпеки».

Джерела: Wired Ai