Google DeepMind-ის თანამშრომლები სამხედრო AI-კონტრაქტების გამო თანამდებობას ტოვებენ

თანამშრომლების წასვლა

BBC-მ ესაუბრა რამდენიმე თანამშრომელს, რომლებმაც Google DeepMind დატოვეს ან ტოვებენ სამხედრო AI-კონტრაქტების გამო. ლონდონში მომუშავე მკვლევარმა ინჟინერმა სოფია ლიგუორმა ამ კვირაში თანამდებობა დატოვა და ექსკლუზიურად BBC-ს ესაუბრა, თუმცა კონტრაქტი უკრძალავდა. „როცა ვხვდები, რომ ჩემი კომპანია სულ უფრო მეტად ითხოვს AI-სისტემებს სამხედრო ოპერაციებისთვის, სირცხვილს ვგრძნობ, რომ Google-ში ვმუშაობ", - თქვა მან. სამი წლის შემდეგ მან დაკარგა რწმენა Google-ის გაცხადებული ეთიკური ღირებულებების მიმართ და მიუთითა აშშ-ისა და ისრაელის არმიებთან მზარდ მუშაობაზე.

ამ თვეში წავიდა AI მკვლევარი ანდრეას კირშიც: მისი თქმით, Google-ის მმართველობა და ზედამხედველობა საკმარისად შინაარსიანი არ არის AI-ის სამხედრო და საიდუმლო გარემოში უსაფრთხოდ განსათავსებლად, კომპანიას არ აქვს ვეტო პენტაგონის მიერ მისი AI-ის გამოყენებაზე და მცირე ხედვა აქვს განლაგებაზე, ხოლო მოდელები საკმარისად მყარი არ არის და ამ ამოცანებისთვის გაწვრთნილი არ არის.

Google-ის პასუხი

Google-ის წარმომადგენლის თქმით, კომპანია საჯარო სექტორთან მუშაობს და იცავს ამ კონტრაქტების განხილვის თანმიმდევრულ პროცესს, მათ შორის მისაღები გამოყენების პოლიტიკისა და AI პრინციპების დაცვას; აქვს სპეციალური არხები თანამშრომელთა შეშფოთებისთვის და მკაცრი პოლიტიკა შურისძიების წინააღმდეგ.

კონტრაქტები, Maven და ზედამხედველობა

Google ამ წელს აშშ-ის არმიასთან კონტრაქტი გააფორმა AI-ის საიდუმლო გარემოში განსათავსებლად. პენტაგონთან შეთანხმება იძლევა გამოყენებას „ნებისმიერი კანონიერი სამთავრობო მიზნისთვის", თუმცა მოდელები არ უნდა გამოიყენებოდეს ქვეყნის შიგნით მასობრივი ზედამხედველობისთვის ან ავტონომიური იარაღისთვის, მიზნების შერჩევის ჩათვლით, ადამიანის ზედამხედველობის გარეშე. აშშ-ის თავდაცვის მდივანმა პიტ ჰეგსეთმა იანვარში თქვა, რომ ტრამპის ადმინისტრაცია გახდება „ხელოვნურ ინტელექტზე დაფუძნებული საომარი ძალა", ხოლო თავდაცვის დეპარტამენტის სუბმდივანმა ემილ მაიკლმა: „სისწრაფე განსაზღვრავს გამარჯვებას AI-ის ერაში".

პენტაგონის ძირითადი პლატფორმა დაზვერვისა და მონაცემების ორგანიზებისთვის, Maven Smart Systems, Palantir-მა შექმნა და AI-ს იყენებს დასარტყამი მიზნების შერჩევასა და იდენტიფიცირებაში დასახმარებლად. Project Maven-ის ყოფილმა დირექტორმა, გადამდგარმა გენერალ-ლეიტენანტმა ჯეკ შენაჰანმა თქვა, რომ „ფილოსოფია" AI-ის რაც შეიძლება სწრაფად და ფართოდ განლაგებაა, შესაძლოა მკაცრი ტესტირების ხარჯზე. OpenAI-ის გეოპოლიტიკის გუნდის ყოფილმა ხელმძღვანელმა სარა შოკერმა თქვა, რომ AI ამცირებს ოპერატორის გადაწყვეტილების დროს და ასობით მიზნის მცირე დროში შერჩევისას შეცდომების შინაარსობრივი გადამოწმება თითქმის შეუძლებელია. Google-ის AI პრინციპები ითვალისწინებს ადამიანის ზედამხედველობას და საერთაშორისო სამართალსა და ადამიანის უფლებებთან შესაბამისობას, თუმცა თანამშრომლების თქმით, კრიტიკულ მომენტებში ზედამხედველობა გაურკვეველია.

ინდუსტრიის კონტექსტი

მსგავსი კონტრაქტები გააფორმეს OpenAI-მ, Amazon-მა, Microsoft-მა, SpaceX-მა, Oracle-მა, Nvidia-მ და სტარტაპ Reflection-მა. 2024 წელს თანამშრომლებმა Google გააკრიტიკეს Amazon-თან ერთობლივი 1,2 მილიარდი დოლარის Project Nimbus-ის გამო, რომელიც ისრაელს AI-სა და ღრუბლოვან ინფრასტრუქტურას აწვდის; Google-ის თქმით, ის უაღრესად მგრძნობიარე სამხედრო დატვირთვებზე არ არის გამიზნული.

თანამშრომლებმა BBC-ს განუცხადეს, რომ ღიად საუბრის ეშინიათ, რადგან კონტრაქტები კრიტიკას კრძალავს. „პრინციპში, მთელი ცხოვრების განმავლობაში Google-ის კრიტიკა არ შემიძლია", - თქვა ლიგუორმა. DeepMind-ის ამჟამინდელმა თანამშრომელმა, რომელმაც სახელი შურისძიების შიშით არ დაასახელა, თქვა, რომ ბევრი მოტივირებული თანამშრომელი შეიძლება წავიდეს, მაგრამ ადრეული კარიერის ადამიანების ნაკადი ამ პოზიციებს დაიკავებს: „ეს შეიძლება იყოს თაობათა ცვლა".

წყაროები: BBC