R&DE של סטנפורד שינתה גזע של סטודנטים בפרסום בעזרת AI

המחלקה לדיור ולסעד (Residential & Dining Enterprises, R&DE) של אוניברסיטת סטנפורד שינתה בעזרת בינה מלאכותית גנרטיבית את מראה הסטודנטים בפרסומים שלה — ובהם גזע, מין ופרופורציות גוף. הפרשה התגלתה לאחר שסטודנטים השוו באנר בקמפוס לתצלומים המקוריים, כך מדווח Stanford Review.

מה ראו הסטודנטים

בילי רמירס (Billy Ramirez ’27), סטודנט בסטנפורד, סיפר שחבר שלח לו את תמונת הבאנר בזמן שנסע לקמפוס. הוא זיהה את התמונה — הוא נזכר שצלם של סטנפורד צילם אותה — אבל הוא עצמו לא הופיע בה. בגרסה שעובדה הוא הוסר, ובמקומו הופיעה אישה שחורה שנוצרה בבינה מלאכותית.

”בהתחלה זה נראה לי מצחיק מאוד שהם השתמשו בבינה מלאכותית כדי לשנות לגמרי את המראה שלנו, כולל הגזע והמין שלי”, סיפר רמירס לעיתון. ”אבל אחרי שהסתכלתי על ההשוואה גם התעצבתי, כי אני לא מסכים שסטנפורד מקבלת החלטות כאלה על הדרך שבה אנחנו מיוצגים. העובדה שהזהות שלי שונתה ואני הוצא מהתמונה גרמה לי להרגיש, במובן מסוים, מושתק ומחוק מייצוג שהיה אמור לכלול גם אותי.”

רמירס אינו היחיד שנפגע. לפי העיתון, גם שני הסטודנטים שעמדו מימינו עוותו, ובתמונה המרוטשת הם נראים רזים באופן ניכר.

התגובות בקמפוס

הפרשה עוררה אלפי תגובות ב-Fizz, האפליקציה החברתית האנונימית הפופולרית בקמפוס, שבה הופץ גם השוואת ”לפני ואחרי”. Stanford Review מציין שהסיפור התקבל בהומור, אך טוען שהוא מלמד על העדפות אידיאולוגיות וגזעיות מתמשכות בהנהלת סטנפורד.

למה זה חשוב

כלי עריכה גנרטיביים מאפשרים כיום לצוותי שיווק לצייר מחדש תצלום בתוך דקות: פנים, גוון עור ופרופורציות גוף משתנים לעיתים קרובות בלי ידיעת האנשים המצולמים. לפי הדיווח, ב-R&DE הניחו כנראה שהשינויים עדינים מספיק כדי שאיש לא ישים לב. Stanford Review מוסר שהוא ימשיך לעקוב אחר הפרסום של המחלקה ואחר השימוש שלה בבינה מלאכותית גנרטיבית.