Google DeepMind işçiləri hərbi AI müqavilələri səbəbindən istifa etdilər

İşçilərin istefası

BBC şirkətin hərbi AI müqavilələri ilə bağlı Google DeepMind-dan istefa verən və ya ayrılan bir neçə işçi ilə söhbət edib. Londonda çalışan tədqiqat mühəndisi Sofiya Liqori bu həftə istefa verib və müqaviləsinə baxmayaraq BBC-yə yalnız öz adından danışıb. "Şirkətimin AI sistemlərini hərbi əməliyyatlara getdikcə daha çox cəlb etdiyini görmək məni Google-da işləməkdən utandırır" deyib o. Şirkətdə üç il işlədikdən sonra Google-ın etik dəyərlərinə inamını itirdiyini və səbəb kimi ABŞ və İsrail orduları ilə artan işbirliyini göstərdiyini söyləyib.

AI tədqiqatçısı Andreas Kirş də bu ay istefa verib: onun sözlərinə görə, Google-ın idarəçiliyi və nəzarəti AI-ı hərbi və məxfi mühitlərdə təhlükəsiz yerləşdirmək üçün kifayət qədər mənalı deyil, şirkətin Pentagonun onun AI-ından necə istifadə etməsinə veto qoymaq hüququ yoxdur və yerləşdirmə üzərində məhdud görünüşü var, hazırkı modellər isə hərbi istifadə üçün yetərincə davamlı deyil və bu tapşırıqlar üçün öyrədilməyib.

Google-ın cavabı

Google nümayəndəsi bildirib ki, şirkət dünya üzrə dövlət təşkilatları ilə işləyir və bu müqavilələrin araşdırılması və bağlanması zamanı istifadə siyasətləri və AI prinsiplərinə uyğunluq daxil olmaqla ardıcıl proses tətbiq edir. Ona görə, şirkətdə işçilərin narahatlıqları üçün xüsusi kanallar və intiqamın qarşısını alan sərt siyasətlər var.

Müqavilələr, Maven və nəzarət

Google bu il məxfi mühitlərdə AI yerləşdirmək üçün ABŞ ordusu ilə müqavilə imzaladı. Pentagonla müqaviləsi AI-ın "hər hansı qanuni hökumət məqsədi" üçün istifadəsinə icazə verir, lakin modellərin uyğun insan nəzarəti olmadan ölkə daxilində kütləvi izləmə və ya avtonom silahlar, o cümlədən hədəf seçimi üçün istifadəsinin qadağan olduğunu bildirir. ABŞ müdafiə naziri Pit Heqset yanvarda Tramp administrasiyasının "AI əsaslı döyüş qüvvəsinə" çevriləcəyini deyib. ABŞ Müdafiə Nazirliyinin rəsmisi Emil Maykl isə "Sürət AI dövründə qələbəni müəyyən edir" deyib.

Pentagonun kəşfiyyat və məlumatların təşkili üçün əsas platforması Maven Smart Systems-ı Palantir hazırlayıb və heyətə hədəfləri seçməkdə kömək edir. Project Maven-ın keçmiş direktoru, istefada olan general-leytenant Cek Şanahan deyib ki, "fəlsəfə" AI-ı mümkün qədər sürətli və geniş yerləşdirmək kimi görünür və bu, ciddi test və qiymətləndirmə hesabına ola bilər. OpenAI-ın keçmiş geosiyasət komanda rəhbəri Sara Şoker deyib ki, AI operatorun qərar vaxtını sıxır və yüzlərlə hədəf qısa müddətdə seçildikdə səhvlərin mənalı yoxlanması demək olar ki, mümkünsüzdür. Google-ın AI prinsipləri insan nəzarətini və beynəlxalq hüquqla insan hüquqlarına uyğunluğu tələb edir, lakin işçilərə görə kritik anlarda nəzarət aydın deyil.

Sənaye konteksti

Bənzər müqavilələri OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia və Reflection startapı imzalayıb; bunlar nəqliyyat, planlaşdırma və döyüş meydanı əməliyyatlarını əhatə edir. 2024-cü ildə işçilər İsrail hökuməti və ordusuna AI texnologiyası və bulud infrastrukturu verən, Amazon ilə birgə 1,2 milyard dollarlıq Project Nimbus-a görə Google-ı tənqid ediblər; Google layihənin yüksək həssas, məxfi və ya hərbi iş yüklərinə yönəlmədiyini deyib.

İşçilər BBC-yə deyiblər ki, müqavilələr şirkətin ictimai tənqidini qadağan etdiyi üçün açıq danışmaqdan qorxurlar. Liqori: "Prinsipcə, həyatım boyu Google-ı tənqid etmək hüququm yoxdur". Adının çəkilməməsini istəyən DeepMind işçisi deyib ki, bir çox həvəsli işçi ayrıla bilər, lakin karyerasının başında olanlar bu vəzifələri doldura bilər: "Bu, nəsillərin dəyişməsi ola bilər".

Mənbələr: BBC