موظفو Google DeepMind يستقيلون بسبب عقود الذكاء الاصطناعي العسكرية

استقالات الموظفين

تحدثت BBC إلى عدد من العاملين في مجال التقنية ممن استقالوا من Google DeepMind أو هم في طريقهم إلى مغادرتها، بسبب عقودها العسكرية في مجال الذكاء الاصطناعي. استقالت صوفيا ليغوري، وهي مهندسة أبحاث مقيمة في لندن، هذا الأسبوع، وتحدثت إلى BBC حصرياً بصفتها الشخصية رغم أن عقدها يمنعها من ذلك. وقالت: "إدراكي أن شركتي تدفع نحو مزيد من أنظمة الذكاء الاصطناعي في العمليات العسكرية يجعلني أشعر بالخزي من العمل في Google". وبعد ثلاث سنوات في الشركة، قالت إنها فقدت الثقة في التزام Google بقيمها الأخلاقية المعلنة، وأشارت إلى عملها المتزايد مع الجيشين الأمريكي والإسرائيلي.

وقال أندرياس كيرش، وهو باحث في الذكاء الاصطناعي استقال هو أيضاً هذا الشهر، إن حوكمة Google وإشرافها غير كافيين لنشر الذكاء الاصطناعي بأمان في البيئات العسكرية والمصنفة، وإنه يبدو أنه لا يحق للشركة الاعتراض على طريقة استخدام البنتاغون لذكائها الاصطناعي، ولديها رؤية محدودة للنشر، وإن النماذج الحالية ليست قوية بما يكفي للاستخدام العسكري ولم تُدرَّب على مثل هذه المهام.

رد Google

وقال متحدث باسم Google إن الشركة تعمل مع منظمات القطاع العام في جميع أنحاء العالم وتتبع عملية ثابتة لمراجعة هذه العقود وإبرامها، بما في ذلك الالتزام بسياسات الاستخدام المقبول ومبادئ الذكاء الاصطناعي. وأضاف أن لدى الشركة قنوات مخصصة لمخاوف الموظفين وسياسات صارمة لمنع أي انتقام.

العقود وMaven والرقابة

Google واحدة من عدة شركات تقنية وقعت عقوداً مع الجيش الأمريكي في وقت سابق من هذا العام لنشر الذكاء الاصطناعي في بيئات مصنفة. ويسمح عقدها مع البنتاغون باستخدام ذكائها الاصطناعي "لأي غرض حكومي قانوني"، لكنه ينص على أنه لا ينبغي استخدام النماذج في المراقبة الجماعية المحلية أو الأسلحة المستقلة، بما في ذلك اختيار الأهداف، دون إشراف بشري وسيطرة مناسبة. وقال وزير الدفاع الأمريكي بيت هيغسيث في يناير إن إدارة ترامب ستصبح "قوة قتالية قائمة على الذكاء الاصطناعي". وقال إيميل مايكل، وكيل وزارة الدفاع الأمريكية: "السرعة تحدد النصر في عصر الذكاء الاصطناعي".

وقد طورت Palantir منصة Maven Smart Systems، وهي المنصة البرمجية الرئيسية للبنتاغون لتنظيم الاستخبارات والبيانات، وتستخدم الذكاء الاصطناعي لمساعدة الأفراد على اختيار الأهداف المراد ضربها وتحديدها. وقال جاك شاناهان، المدير السابق لمشروع Maven واللفتنانت جنرال المتقاعد، إن "الفلسفة" تبدو كالتالي: نشر الذكاء الاصطناعي بأسرع ما يمكن وبأوسع نطاق ممكن، وربما على حساب صرامة الاختبار والتقييم. وقالت سارة شوكر، التي كانت ترأس فريق الجيوسياسة في OpenAI، إن الذكاء الاصطناعي يضغط وقت القرار المتاح للمشغل، وعندما تُختار مئات الأهداف في وقت قصير، يكاد يكون من المستحيل مراجعة المخرجات بحثاً عن الأخطاء بشكل هادف. وتدعو مبادئ الذكاء الاصطناعي في Google إلى الإشراف البشري والانسجام مع القانون الدولي وحقوق الإنسان، لكن الموظفين يقولون إن مستوى الإشراف في اللحظات الحرجة غير واضح.

سياق القطاع

ووقعت عقوداً مماثلة OpenAI وAmazon وMicrosoft وSpaceX وOracle وNvidia والشركة الناشئة Reflection، وتشمل النقل والتخطيط وعمليات ساحة المعركة. وفي 2024، انتقد الموظفون Google بسبب Project Nimbus، وهو عقد مشترك مع Amazon بقيمة 1.2 مليار دولار يوفر لحكومة إسرائيل وجيشها تقنية الذكاء الاصطناعي والبنية التحتية السحابية؛ وقالت Google حينها إنه ليس موجهاً لأعباء عمل عسكرية أو مصنفة أو حساسة للغاية.

وقال موظفون لـBBC إنهم يخشون التحدث علناً لأن عقودهم تحظر انتقاد الشركة علناً. وقالت ليغوري: "من حيث المبدأ، لا يُسمح لي بانتقاد Google طوال حياتي". وقال أحد موظفي DeepMind الحاليين، الذي رفض الكشف عن اسمه خوفاً من الانتقام، إن كثيراً من الموظفين المتحمسين قد يرحلون، لكن هناك تدفقاً من الأشخاص في بداية مسيرتهم المهنية يمكنهم شغل تلك المناصب: "قد يكون هذا تبديلاً للحرس".

المصادر: BBC