Meta çalışanlarına yapay zekâ verisi toplamayı 30 dakika durdurma hakkı verdi

Meta, çalışanlarının klavye ve fare hareketlerini yapay zekâ modellerini eğitmek için kaydeden programını geri çekiyor. Şirketin Salı günü gönderdiği iç yazışmaya göre yeni kontroller, çalışanların veri toplamayı "tek seferde 30 dakikaya kadar" duraklatmasına ve programdan tümüyle muafiyet talep etmesine olanak tanıyacak.

Neler değişiyor

Reuters'ın gördüğü yazışmaya göre notu, Meta'nın Superintelligence Labs biriminde başkan yardımcısı olan Stephane Kasriel kaleme aldı. Kasriel, çalışanların araç çok fazla veri tükettiği için evden çalışırken internet kullanımlarının arttığını bildirmesinin ardından ekibin dizüstü bilgisayarların pil ömrü üzerindeki etkiyi azaltmak için "birkaç optimizasyon" getirdiğini söyledi.

"Kullanıma sunduğumuzda devreye aldığımız ve birkaç risk değerlendirmesinden geçen gizlilik korumalarına hâlâ güveniyoruz; ancak iş cihazlarındaki kişisel veriler, pil ömrü ve kaydın ne zaman yapılacağı konusunda daha fazla kontrol isteğinizi duyduk" diye yazdı Kasriel.

Tepkiler

Model Capability Initiative (MCI) adlı araç Nisan ayında duyurulmuştu. Meta o dönemde "İnsanların bilgisayarda günlük işlerini yapmasına yardımcı olacak ajanlar geliştiriyorsak, modellerimizin insanların bunları gerçekte nasıl kullandığına dair gerçek örneklere ihtiyacı var" demişti. Şirket, verilerin başka bir amaçla kullanılmayacağını ve hassas içeriği koruyan önlemler bulunduğunu eklemişti.

Çalışanlar ikna olmadı. Kimliğinin açıklanmamasını isteyen bir Meta çalışanı BBC'ye, kendi eylemleriyle yapay zekâ modellerinin eğitilmesinin "çok distopik" hissettirdiğini, üstelik personelin yeni işten çıkarmalar beklediğini söyledi. Şirketten kısa süre önce ayrılan bir başka kişi ise takip aracını "yapay zekânın herkese zorla yutturulmasının son yolu" olarak tanımladı. Uygulamaya karşı başlatılan dilekçe 1.500'den fazla imza topladı.

Neden önemli

Bu olay, yetenekli yapay zekâ ajanları geliştirme yarışının iş yerindeki gizlilik beklentileriyle nasıl çatıştığını gösteriyor. Meta, modellerini geliştirmek için gerçek kullanıcı davranışını toplayan tek şirket değil; ancak MCI'nin ölçeği ve doğrudanlığı — iş bilgisayarlarında tıklama ve tuş vuruşlarının kaydedilmesi — programı şirket içinde bir gerilim noktası hâline getirdi.

Meta kayıtlara geçecek bir açıklama yapmadı. Güncellenen kontroller programı iptal etmiyor; çalışanlara ondan çıkmanın sınırlı bir yolunu sunuyor ve muafiyet taleplerinin nasıl değerlendirileceği henüz belirsiz.