Контракторів, які навчали моделі OpenAI, звільнили за використання ШІ

404 Media повідомляє, що кількох контракторів, найнятих для покращення моделей OpenAI, звільнили за використання ШІ у тій самій роботі, для якої їх наймали. Матеріал ґрунтується на внутрішніх документах і розмовах із контракторами, які працюють над кількома проєктами OpenAI.

Що кажуть внутрішні документи

В одному з документів, що описує роботу контракторів, які перевіряють результати інших контракторів, прямо сказано: «Не використовуйте ШІ-детектори або сам ШІ». Там же заборонено GPTZero та інші детектори («вони ненадійні»), а також Grammarly й машинний переклад для рецензування, написання відгуків чи коментарів. Перевіряльникам не радять пояснювати свої підозри, адже «їм легше сховатися, якщо вони знатимуть, що ви шукаєте. Оцінюйте загальну картину, а не одну ознаку».

За одним із документів, у цих проєктах можуть бути задіяні понад десять тисяч контракторів. 404 Media поговорила з трьома контракторами: усі підтвердили, що перевіряльникам забороняють користуватися ШІ, а двоє сказали, що людей за це справді звільняли.

Ознаки, які шукають перевіряльники

Перевіряльників вчать помічати повторювані слова, пунктуацію, характерну для ШІ, зокрема надмірне використання довгого тире, і роботу, виконану надто швидко. У внутрішніх каналах Slack, де контрактори радяться між собою, поширене запитання: «Це ШІ?» За словами одного контрактора, відповідь «зазвичай так».

Ще один контрактор, який користувався ШІ, показав те, що представив як лист про звільнення: роботодавець зафіксував проблеми з «автентичністю» його роботи. «Мені потрібен був невеликий поштовх, і я звернувся до ШІ, що зрештою мене й занапастило», сказав він, додавши, що не відчував радості від роботи. Інший контрактор назвав використання ШІ «чи не єдиною річчю, за яку вилітаєш негайно», і зауважив, що «в групі з тисяч людей спіймали багатьох».

Колапс моделей і позиція компанії

Це важливо, бо моделі, донавчені на згенерованому ШІ тексті, можуть деградувати; явище відоме як колапс моделей. Минулого тижня 404 Media розповіла про проєкт Lily: сотні контракторів читають справжні запити й розмови користувачів ChatGPT, іноді з персональною інформацією, та оцінюють відповіді, зокрема перевіряючи, чи не надто вони улесливі.

Двоє контракторів працювали в Mercor, компанії з навчання ШІ. Її представник заявив, що контракти суворо забороняють використовувати мовні моделі, а підтверджене порушення означає негайне усунення від проєкту. OpenAI від коментарів відмовилася. Четвертий контрактор сказав, що іноді навмисно обирав найгірші відповіді: «справді відчувається, що мені платять за те, щоб робити ШІ гіршим».