קבלנים שאימנו את מודלי OpenAI פוטרו בגלל שימוש ב-AI

אתר 404 Media מדווח שכמה קבלנים שנשכרו לשפר את המודלים של OpenAI פוטרו משום שהשתמשו בבינה מלאכותית בעבודה שלשמה נשכרו. הדיווח מבוסס על מסמכים פנימיים ושיחות עם קבלנים העובדים בכמה פרויקטים של OpenAI.

מה אומרים המסמכים הפנימיים

מסמך פנימי אחד המתאר את עבודתם של קבלנים הבודקים את התוצרים של קבלנים אחרים קובע במפורש: ״אל תשתמשו בכלי זיהוי AI או ב-AI עצמו״. אותו מסמך אוסר גם על GPTZero וכלי זיהוי אחרים (״הם אינם אמינים״) ועל Grammarly ותרגום אוטומטי לצורך סקירה, כתיבת משוב או הערות. הבודקים מתבקשים גם שלא להסביר מדוע הם חושדים בשימוש ב-AI, מפני ש״קל להם יותר להסתתר אם הם יודעים מה אתם מחפשים. שפטו את התמונה הכוללת, לא רמז בודד״.

לפי אחד המסמכים, בפרויקטים האלה עשויים להיות מעורבים יותר מעשרת אלפים קבלנים. 404 Media שוחחה עם שלושה קבלנים; שלושתם אישרו שבודקים מתבקשים לא להשתמש ב-AI, ושניים אמרו שאנשים אכן פוטרו או הוצאו מהפרויקט בשל כך.

הסימנים שהבודקים מחפשים

את הבודקים מלמדים לזהות מילים חוזרות, סימני פיסוק אופייניים ל-AI, ובהם שימוש מוגזם במקף ארוך, ועבודה שהושלמה במהירות חריגה. בערוצי Slack פנימיים שבהם קבלנים מבקשים עצות זה מזה, שאלה נפוצה היא ״האם זה AI?״ לפי קבלן אחד, התשובה היא ״בדרך כלל כן״.

קבלן אחר שהשתמש ב-AI הציג את מה שלדבריו הוא מכתב פיטורים שבו צוינו בעיות ב״אותנטיות״ של עבודתו. ״רק הייתי צריך דחיפה קטנה ופניתי ל-AI, וזה בסופו של דבר הביא לנפילה שלי״, סיפר והוסיף שלא חש שמחה בעבודה. קבלן אחר תיאר את השימוש ב-AI כ״כמעט הדבר היחיד שמעיף אותך החוצה מיד״, והוסיף ש״בקבוצה של אלפים נתפסו רבים״.

קריסת מודלים ותגובת החברה

לעניין יש משמעות משום שמודלים שמאומנים נוספות על טקסט שנוצר ב-AI עלולים להידרדר, תופעה הידועה כקריסת מודלים. בשבוע שעבר דיווח 404 Media על פרויקט Lily, שבו מאות קבלנים קוראים בקשות ושיחות אמיתיות של משתמשי ChatGPT, שלעיתים כוללות מידע אישי, ומדרגים את התשובות, בין היתר כדי לוודא שאינן חנפניות מדי.

שניים מהקבלנים עבדו ב-Mercor, חברה לאימון AI. דוברת החברה מסרה שהחוזים אוסרים באופן מוחלט שימוש במודלי שפה להשלמת משימות, וכי שימוש לרעה מאומת מוביל להרחקה מיידית מהפרויקט. OpenAI סירבה להגיב. קבלן רביעי סיפר שלעיתים בחר במכוון בתשובות הגרועות ביותר: ״זו באמת הרגשה שמשלמים לי כדי להפוך את ה-AI לגרוע יותר״.