OpenAI modellerini eğiten yükleniciler yapay zekâ kullandığı için işten çıkarıldı

404 Media, OpenAI'nin modellerini geliştirmek için işe alınan birkaç yüklenicinin, tam da bu iş için yapay zekâ kullandıkları gerekçesiyle işten çıkarıldığını bildirdi. Haber, iç belgelere ve birkaç OpenAI projesinde çalışan yüklenicilerle görüşmelere dayanıyor.

İç belgeler ne diyor

Diğer yüklenicilerin çıktılarını denetleyen kişilerin işini tanımlayan bir iç belge açıkça şöyle diyor: “Yapay zekâ tespit araçlarını ya da yapay zekânın kendisini kullanmayın.” Aynı belge GPTZero ve benzeri araçları (“güvenilir değiller”) yasakladığı gibi inceleme, geri bildirim ve yorum yazımında Grammarly ile makine çevirisini de yasaklıyor. Denetçilere şüphelerinin nedenini açıklamamaları söyleniyor: “Ne aradığınızı bilirlerse saklanmaları daha kolay olur.”

Belgelerden birine göre bu projelerde on binden fazla yüklenici yer alabiliyor. 404 Media üç yükleniciyle konuştu; üçü de denetçilere yapay zekâ kullanmama kuralının anlatıldığını doğruladı, ikisi bu yüzden insanların işten çıkarıldığını veya projeden uzaklaştırıldığını söyledi.

Denetçilerin aradığı işaretler

Denetçilere tekrarlayan kelimeler, yapay zekâya özgü noktalama, özellikle uzun çizginin aşırı kullanımı, ve alışılmadık biçimde hızlı tamamlanan işler öğretiliyor. İç Slack kanallarında sık sorulan soru şu: “Bu yapay zekâ mı?” Bir yükleniciye göre yanıt “genellikle evet”.

Yapay zekâ kullanan bir yüklenici, işten çıkarılma mektubu olarak sunduğu belgeyi paylaştı; mektupta işinin “özgünlüğü” konusunda sorunlar tespit edildiği yazıyordu. “Küçük bir desteğe ihtiyacım vardı ve yapay zekâya başvurdum, bu da sonunda sonumu getirdi” diyen kişi, işten hiç keyif almadığını ekledi. Başka bir yüklenici yapay zekâ kullanımını “sizi anında kapı önüne koyan tek şey” diye tanımladı ve “binlerce kişilik bir grupta yakalanan çok kişi var” dedi.

Model çöküşü ve şirketin yanıtı

Konu önemli, çünkü yapay zekâ üretimi metinlerle ek eğitim alan modeller bozulabiliyor; bu olgu “model çöküşü” olarak biliniyor. Geçen hafta 404 Media, yüzlerce yüklenicinin gerçek ChatGPT kullanıcılarının istemlerini ve bazen kişisel bilgi içeren sohbetlerini okuyup yanıtları puanladığı Lily projesini duyurmuştu; yanıtların fazla yalakalık içermediği de kontrol ediliyor.

Yüklenicilerden ikisi, yapay zekâ eğitimi şirketi Mercor için çalışıyordu. Şirket sözcüsü, sözleşmelerin projeleri tamamlamak için dil modelleri kullanılmasını kesinlikle yasakladığını ve doğrulanan ihlalin projeden derhal çıkarılmayla sonuçlandığını belirtti. OpenAI yorum yapmayı reddetti. Dördüncü bir yüklenici bazen bilerek en kötü yanıtları seçtiğini söyledi: “yapay zekâyı daha kötü yapmak için para aldığımı gerçekten hissediyorum”.