עובדי Google DeepMind מתפטרים בשל חוזי AI צבאיים

התפטרויות עובדים

ה-BBC שוחח עם כמה עובדי טכנולוגיה שהתפטרו מ-Google DeepMind או עוזבים אותה בשל חוזי ה-AI הצבאיים שלה. סופיה ליגואורי, מהנדסת מחקר מלונדון, התפטרה השבוע ודיברה עם ה-BBC באופן בלעדי כמי שמייצגת את עצמה, אף שעל פי החוזה שלה אסור לה לעשות זאת. "ההבנה שהחברה שלי דוחפת יותר ויותר מערכות AI לפעולות צבאיות גורמת לי להתבייש לעבוד ב-Google", אמרה. אחרי שלוש שנים בחברה היא אמרה שאיבדה את האמון בכך ש-Google נאמנה לערכים האתיים המוצהרים שלה, וציינה את העבודה הגוברת עם צבאות ארצות הברית וישראל.

גם אנדראס קירש, חוקר AI, התפטר החודש ואמר שהממשל והפיקוח של Google אינם משמעותיים דיים כדי לפרוס AI בבטחה בסביבות צבאיות ומסווגות, שנראה שלחברה אין זכות וטו על אופן השימוש של הפנטגון ב-AI שלה ויש לה ראות מוגבלת של הפריסה, ושהמודלים הנוכחיים אינם יציבים מספיק ואינם מאומנים למשימות כאלה.

תגובת Google

דובר Google אמר שהחברה עובדת עם ארגוני מגזר ציבורי ברחבי העולם ופועלת לפי תהליך עקבי לבחינה ולחתימה של חוזים אלה, כולל עמידה במדיניות השימוש המקובל ובעקרונות ה-AI שלה. לדבריו, יש לחברה ערוצים ייעודיים לפניות עובדים ומדיניות נוקשה שנועדה למנוע נקם מכל סוג.

חוזים, Maven ופיקוח

Google היא אחת מכמה חברות טכנולוגיה שחתמו השנה חוזים עם הצבא האמריקאי לפריסת AI בסביבות מסווגות. ההסכם שלה עם הפנטגון מאפשר שימוש "לכל מטרה ממשלתית חוקית", אך קובע שאין להשתמש במודלים למעקב המוני פנימי או בכלי נשק אוטונומיים, כולל בחירת מטרות, בלי פיקוח ושליטה אנושיים הולמים. מזכיר ההגנה האמריקאי פיט הגסת' אמר בינואר שממשל טראמפ יהפוך ל"כוח לחימה מונחה AI". אמיל מייקל, תת-מזכיר במשרד ההגנה האמריקאי, אמר: "המהירות מגדירה ניצחון בעידן ה-AI".

Maven Smart Systems, הפלטפורמה המרכזית של הפנטגון לארגון מודיעין ונתונים, פותחה על ידי Palantir ומסייעת לאנשי הצוות לבחור ולזהות מטרות לתקיפה. ג'ק שנהאן, מנהל Project Maven לשעבר, בדרגת לוטננט גנרל בדימוס, אמר שה"פילוסופיה" נראית כך: לפרוס AI מהר וכמה שיותר רחב, גם במחיר של קפדנות ומשמעת בבדיקות ובהערכה. שרה שוקר, לשעבר ראש צוות הגיאופוליטיקה של OpenAI, אמרה ש-AI מקצר את זמן ההחלטה של המפעיל, וכשמאות מטרות נבחרות בזמן קצר, כמעט בלתי אפשרי לבחון את הפלטים לאיתור שגיאות באופן משמעותי. עקרונות ה-AI של Google דורשים פיקוח אנושי והתאמה לחוק הבינלאומי ולזכויות האדם, אך העובדים אומרים שרמת הפיקוח ברגעים קריטיים אינה ברורה.

הקשר תעשייתי

חוזים דומים נחתמו על ידי OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia והסטארטאפ Reflection, בין היתר לתחבורה, תכנון ופעולות שדה קרב. ב-2024 עובדים מתחו ביקורת על Google בגלל Project Nimbus, חוזה משותף עם Amazon בשווי 1.2 מיליארד דולר המספק לממשלת ישראל ולצבאה טכנולוגיית AI ותשתית ענן; Google אמרה אז שהוא אינו מכוון לעומסי עבודה רגישים במיוחד, מסווגים או צבאיים.

עובדים אמרו ל-BBC שהם חוששים לדבר בגלוי משום שהחוזים אוסרים ביקורת פומבית על החברה. "באופן עקרוני אני לא רשאית לבקר את Google כל חיי", אמרה ליגואורי. עובד נוכחי ב-DeepMind, שביקש להישאר בעילום שם מחשש לנקם, אמר שהרבה עובדים בעלי מוטיבציה יכולים לעזוב, אבל יש זרם של אנשים בתחילת הקריירה שיכולים למלא את התפקידים: "זו יכולה להיות חילופי משמרות".

מקורות: BBC