OpenAI מציגה סגנון מצויר לתמונות בחירות ב-ChatGPT

OpenAI מיישמת אמצעי הגנה חדש לתמונות פוליטיות ב-ChatGPT לקראת בחירות האמצע בארה״ב ב-3 בנובמבר. כאשר משתמשים מבקשים תמונות שמציגות התערבות בבחירות או שעלולות להרתיע מהצבעה, הצ׳אטבוט מצייר אותן כעת בסגנון מאויר או מצויר במקום פלט פוטוריאליסטי. החברה אומרת שהמטרה היא להפחית את הערך הראייתי של תמונות תוך שמירה על מקום לאיורים ולפרשנות חברתית.

איך עובד הסגנון המצויר

אם בקשה אינה מפרה הנחיות תוכן אחרות, ChatGPT תיצור את התמונה, אבל היא תהיה בסגנון מאויר או מצויר. יש להתעלם מכל בקשה להציג את התמונה כפוטוריאליסטית. לדוגמה, CNET ביקשה מ-ChatGPT ליצור תמונה של קציני רשות ההגירה והמכס (ICE) עומדים מחוץ לקלפי, וכל בקשה כזאת יצרה תמונה בסגנון מצויר. גם כל בקשת עריכה ל-ChatGPT ליצור תמונה של קציני ICE מחוץ לקלפי יצרה תמונה בסגנון מצויר. העורך הראשי של CNET, ג׳ון ריד, לא הצליח להטעות את ChatGPT כדי שתיצור תמונה בסגנון עיתונאות צילומית שמראה מכונת הצבעה רושמת את הבחירה הלא נכונה.

ג׳וש לוסון, ראש תחום הבחירות ב-OpenAI, אמר ל-CNET: ״הבעיה עם דיפפייקס אינה פרשנות חברתית, אלא הונאה. לכן המטרה שלנו היא להפחית את הערך הראייתי של תמונה, תוך שמירה על מקום לאיורים ולפרשנות חברתית.״ הוא אמר שהמטרה היא ״להפוך את הפלטפורמה שלנו לפחות שימושית לשחקנים זדוניים על ידי הוספת שכבה נוספת של חיכוך.״

מדוע דיפפייקס חשובים במהלך בחירות

דיפפייקס של AI הם כיום כל כך ריאליסטיים עד שכמעט אי אפשר להבחין בינם לבין תמונות אמיתיות. זה חשוב בעונת הבחירות, כשמצביעים מחפשים מידע אמין ונכון על המועמדים שלהם ועל אתרי הקלפיות. גרסה פוטוריאליסטית של תמונה כמו קציני ICE מחוץ לקלפי עשויה לעורר חרדה, אם לא בהלה ממשית, בקרב מצביעים. מכונות הצבעה שרושמות תוצאות שונות מהבחירה של המצביע הן מיתוס בחירות נפוץ.

שיפור מודלי תמונות של AI, כמו ChatGPT Images 2.5, הוא חרב פיפיות. מודלים חדשים יותר עושים פחות שגיאות או הזיות, ומייצרים תוכן טוב יותר ליוצרים. אבל הסרת הפאשלות האלה מקשה אפילו יותר על כולם לזהות תוכן שנוצר בידי AI בעין בלתי מזוינת. שיטות אימות או סימון AI ניסו לעזור, אבל השיטות האלה אינן מקובלות בכל התעשייה וגם אינן חסינות מטעויות. הפיכת תמונות AI למצוירות היא דרך מעשית להקשות מעט יותר על יצירת דיפפייקס פוליטיים.

כיצד מגיבות המתחרות

כשנשאל על אמצעי זהירות לתמונות AI, דובר Google הפנה למדיניות בחירות האמצע שלה, שאומרת שהחברה ״משיקה הגנות נוספות כדי להגביל יצירת תמונות מטעות הקשורות לבחירות״ אבל אינה כוללת פרטים על איך. ל-Anthropic אין מחולל תמונות או וידאו מסורתי, ודובר אמר ל-CNET שכל ניסיון להשתמש ב-Claude כדי להטעות מצביעים או לשבש בחירות מפר את המדיניות שלה. החברה גם פרסמה הנחיות כלליות לבחירות מוקדם יותר החודש. Claude סירב ליצור תמונה פוטוריאליסטית עם תוכן ״רגיש הקשור לבחירות״.

מה הלאה

אין ערובה ש-OpenAI תשמור על המערכת הזאת במקום לאחר שמחזור הבחירות יסתיים. אבל זה סימן מוצק מאחת ממעבדות ה-AI הגדולות ביותר שהיא מתייחסת לתפקידה בשמירה על שלמות הבחירות האמריקאיות לפחות במידה מסוימת ברצינות. למידע נוסף, בדקו מה לעשות כשעשו עליכם דיפפייק וכל מה שכדאי לדעת על Take It Down Act.

מקורות: CNET