Google DeepMind çalışanları askeri AI sözleşmeleri nedeniyle istifa etti

Çalışan istifaları

BBC, Google DeepMind'dan istifa eden ya da ayrılan birkaç çalışanla şirketin askeri AI sözleşmeleri üzerine görüştü. Londra merkezli araştırma mühendisi Sofia Liguori bu hafta istifa etti ve sözleşmesine rağmen BBC'ye yalnızca kendi adına konuştu. "Şirketimin askeri operasyonlarda AI sistemlerini giderek daha fazla zorlaması, Google'da çalışmaktan utanç duymama neden oluyor" dedi. Üç yılın ardından Google'ın etik değerlerine olan inancını kaybettiğini söyledi ve gerekçe olarak ABD ile İsrail ordularıyla artan işbirliğini gösterdi.

AI araştırmacısı Andreas Kirsch de bu ay istifa etti: Google'ın yönetim ve denetimi AI'ı askeri ve sınıflandırılmış ortamlarda güvenle konuşlandırmak için yeterince anlamlı değil, şirketin Pentagon'un AI'ını nasıl kullanacağı üzerinde veto hakkı yok ve konuşlandırma üzerinde sınırlı görüşü var, mevcut modeller de askeri kullanım için yeterince sağlam değil ve bu görevler için eğitilmemiş.

Google'ın yanıtı

Bir Google sözcüsü, şirketin dünya genelinde kamu sektörü kuruluşlarıyla çalıştığını ve bu sözleşmelerin incelenmesinde kabul edilebilir kullanım politikaları ile AI ilkelerine uyum dahil tutarlı bir süreç izlediğini söyledi. Şirketin çalışan kaygıları için özel kanalları ve misillemeyi önleyen katı politikaları var.

Sözleşmeler, Maven ve denetim

Google bu yıl sınıflandırılmış ortamlarda AI konuşlandırmak için ABD ordusuyla sözleşme imzaladı. Pentagon anlaşması AI'ının "her türlü yasal hükümet amacı" için kullanılmasına izin veriyor, ancak modellerin uygun insan denetimi olmadan ülke içinde kitlesel gözetleme veya otonom silahlar, hedef seçimi dahil, kullanılmaması gerektiğini belirtiyor. ABD Savunma Bakanı Pete Hegseth ocak ayında Trump yönetiminin "AI odaklı bir savaş gücü" olacağını söyledi; Savunma Bakanlığı'nda müsteşar olan Emil Michael ise "Hız, AI çağında zaferi tanımlar" dedi.

Pentagon'un istihbarat ve veri düzenlemesi için ana platformu Maven Smart Systems'ı Palantir geliştirdi ve personelin vurulacak hedefleri seçmesine yardımcı oluyor. Project Maven'ın eski direktörü, emekli Korgeneral Jack Shanahan, "felsefenin" AI'ı mümkün olduğunca hızlı ve geniş konuşlandırmak gibi göründüğünü, bunun titiz test ve değerlendirme pahasına olabileceğini söyledi. OpenAI'ın eski jeopolitik ekip başkanı Sarah Shoker, AI'ın operatörün karar süresini sıkıştırdığını ve yüzlerce hedefin kısa sürede seçildiği durumlarda hataların anlamlı incelenmesinin neredeyse imkânsız olduğunu söyledi. Google'ın AI ilkeleri insan denetimini ve uluslararası hukuk ile insan haklarına uyumu öngörüyor, ancak çalışanlar kritik anlarda denetimin belirsiz olduğunu söylüyor.

Sektör bağlamı

Benzer sözleşmeleri OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve girişim Reflection imzaladı; bunlar ulaşım, planlama ve savaş alanı operasyonlarını kapsıyor. 2024'te çalışanlar, İsrail hükümeti ve ordusuna AI teknolojisi ile bulut altyapısı sağlayan, Amazon ile ortak 1,2 milyar dolarlık Project Nimbus nedeniyle Google'ı eleştirdi; Google projenin yüksek hassasiyetli, sınıflandırılmış ya da askeri iş yüklerine yönelik olmadığını söyledi.

Çalışanlar, sözleşmeler şirketi kamu önünde eleştirmeyi yasakladığı için açıkça konuşmaktan korktuklarını söyledi. Liguori, "Prensip olarak hayatım boyunca Google'ı eleştirmeme izin yok" dedi. Adının açıklanmamasını isteyen DeepMind çalışanı, çok sayıda hevesli çalışanın ayrılabileceğini, ancak kariyerinin başındaki insanların bu pozisyonları doldurabileceğini söyledi: "Bu bir nöbet değişimi olabilir."

Kaynaklar: BBC