Meta mühendislik organizasyonunu mu yıkıyor? Yapay zekâ kaynaklı çalkantının içi

Meta yirmi yıl boyunca Big Tech içindeki en mühendislik merkezli kültürlerden birini inşa etti: 2010'ların "hızlı ilerle ve her şeyi kır" döneminden, sonraki "istikrarlı altyapıyla hızlı ilerle" ilkesine geçti. Bu itibar bu bahar sarsıldı: Pragmatic Engineer'da yayımlanan uzun bir inceleme, nisan sonundan bu yana yönetimin aldığı kararları ve bunların Facebook, Instagram ile Messenger'ı geliştiren mühendislere etkisini anlatıyor.

Tuş takibi ve toplu görevlendirme

Yayına göre nisan sonunda Meta, mühendislere her tuş vuruşunu ve fare tıklamasını şirketin yeni yapay zekâ modelleri için eğitim verisi olarak kaydeden bir sisteme dahil edildiklerini, bunu reddetme seçenekleri olmadığını bildirdi. 2 Haziran'da Reuters, Meta'nın bu planın bazı bölümlerini geri çektiğini duyurdu: Superintelligence Labs birimindeki başkan yardımcısı Stephane Kasriel'in iç yazışmasına göre yeni denetimler, çalışanların veri toplamayı 30 dakikaya kadar duraklatmasına ve muafiyet istemesine olanak tanıyacak. Bu sırada ürün ekiplerine, mühendislerinin yüzde 30 ila 50'sinin veri etiketleme ve insan geri bildirimine dayalı pekiştirmeli öğrenme için ADO organizasyonuna — Agent Data Optimisation — geçeceği söylendi. Yayına göre ADO'da yaklaşık 6.500 kişi var; bu, OpenAI veya Anthropic'ten daha fazla ve içlerinde 4.000-5.000 yazılım mühendisi bulunuyor.

İşten çıkarmalar, değerlendirmeler ve Instagram olayı

Reuters 20 Nisan'da Meta'nın bir ay içinde personelinin yüzde 10'unu çıkarmayı planladığını yazdı; işten çıkarmalar 20 Mayıs'ta açıklandı ve çalışanlara dört haftalık belirsizlik bıraktı. Yayın, Meta'da performans değerlendirmesinin olağan dışı agresif olduğunu ve değerlendirmelerde token sayısının da inceleneceğini ekliyor; bu da mühendisleri yalnızca ölçüt için yapay zekâ çıktısı üretmeye itiyordu. 30 Mayıs'ta aralarında tanınmış hesapların da bulunduğu Instagram hesapları ele geçirildi. İncelemede aktarılan bir mühendisin anlatımına göre saldırgan VPN ile konumunu sahteleyip Meta'nın destek yapay zekâsından doğrulama kodlarını kendi kontrol ettiği bir e-posta adresine göndermesini isteyebiliyordu — neredeyse sıfır kimlik doğrulamayla şifre sıfırlama. Olay 1 Haziran'da çözüldü ve ertesi gün Meta'nın bilgi ve güvenlik müdürü Guy Rosen ayrıldığını duyurdu. Yayının kaynaklarına göre Instagram'ın Trust and Safety ekibi personelinin yaklaşık yarısını kaybetmişti ve yalnızca yapay zekâ tarafından incelenen, yapay zekâ yazımı değişiklikler olağan hale gelmişti.

Sonuçlar ve daha geniş uyarı

Şirket içinde Wired'a göre bir çalışan canlı yayınlanan iç sunumu küfürlü sözlerle kesti, ürün müdürü Chris Cox ise son ayların ortamını "acımasız" olarak tanımladı. Teknoloji müdürü Andrew Bosworth daha sonra yapay zekâ gerekçesiyle yapılan yeniden yapılanmanın kötü yürütüldüğünü kabul etti. Yayın, hasarın bir kısmının düzeltildiğini de not ediyor: Britanya'da birkaç altyapı ve güvenlik ekibi, danışma sürecinin sonunda kimsenin işten çıkarılmayacağını öğrendi. HashiCorp'un kurucusu Mitchell Hashimoto'nun da paylaştığı geniş sonuç şu: "yapay zekâ psikozuna" kapılan şirketler hız uğruna dayanıklılığı feda etme riski taşıyor — altyapı ekiplerinin çok önce öğrendiği bir ders.