Працівники Google DeepMind звільнилися через військові контракти з AI

Звільнення працівників

BBC поспілкувалася з кількома технічними працівниками, які звільнилися з Google DeepMind або залишають компанію через військові контракти з AI. Дослідниця-інженерка з Лондона Софія Лігьорі звільнилася цього тижня й ексклюзивно розповіла BBC як приватна особа, попри контракт. «Усвідомлення, що моя компанія дедалі більше просуває AI-системи для військових операцій, викликає в мене сором за те, що я працюю в Google», - сказала вона. Пропрацювавши три роки, вона сказала, що втратила віру в те, що Google вірна своїм задекларованим етичним цінностям, і назвала причиною зростання роботи з арміями США та Ізраїлю.

Дослідник AI Андреас Кірш також звільнився цього місяця: управління й нагляд Google, за його словами, недостатньо змістовні для безпечного розгортання AI у військових і засекречених умовах, компанія не має права вето на використання її AI Пентагоном і має обмежену видимість розгортання, а нинішні моделі недостатньо надійні та не навчені для таких завдань.

Відповідь Google

Речник Google сказав, що компанія працює з організаціями державного сектору по всьому світу й дотримується послідовного процесу розгляду та укладання таких контрактів, зокрема політики прийнятного використання та принципів AI. За його словами, є спеціальні канали для звернень працівників і суворі політики проти помсти.

Контракти, Maven і нагляд

Google цього року підписала контракт з армією США про розгортання AI в засекречених середовищах. Її угода з Пентагоном дозволяє використання «для будь-якої законної державної мети», але зазначає, що моделі не слід використовувати для внутрішнього масового спостереження або автономної зброї, включно з вибором цілей, без належного людського нагляду й контролю. Міністр оборони США Піт Гегсет сказав у січні, що адміністрація Трампа стане «бойовою силою, орієнтованою на AI». Еміл Майкл, заступник міністра в Міністерстві оборони США, заявив: «Швидкість визначає перемогу в епоху AI».

Maven Smart Systems, основну платформу Пентагону для організації розвідданих і даних, розробила Palantir; вона допомагає персоналу обирати та ідентифікувати цілі для ударів. Колишній директор Project Maven, генерал-лейтенант у відставці Джек Шанахан сказав, що «філософія», схоже, така: розгортати AI якомога швидше й ширше, потенційно за рахунок ретельного тестування. Сара Шокер, колишня очільниця відділу геополітики OpenAI, сказала, що AI стискає час на рішення оператора, і коли сотні цілей обрані за короткий час, змістовно перевірити результати на помилки майже неможливо. Принципи AI Google вимагають людського нагляду та відповідності міжнародному праву й правам людини, але працівники кажуть, що рівень нагляду в критичні моменти неясний.

Галузевий контекст

Схожі контракти підписали OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia і стартап Reflection. У 2024 році працівники критикували Google через Project Nimbus, спільний контракт з Amazon вартістю 1,2 млрд доларів, який забезпечує уряд і армію Ізраїлю AI та хмарною інфраструктурою; тоді Google заявила, що він не спрямований на високочутливі військові навантаження.

Працівники розповіли BBC, що бояться говорити відкрито, оскільки контракти забороняють публічну критику. «В принципі мені заборонено критикувати Google протягом усього життя», - сказала Лігьорі. Один із нинішніх працівників DeepMind, який відмовився назватися через страх помсти, сказав, що багато вмотивованих людей могли б піти, але люди на початку кар'єри можуть заповнити ці посади: «Це може бути зміною поколінь».

Джерела: BBC