
OpenAI משיקה מסווג תמונות CSAM ואזהרות ב-ChatGPT
OpenAI הכריזה על כלים חדשים למאבק בחומר התעללות מינית בילדים, כולל מסווג תמונות, אזהרות וחסימות זמניות ב-ChatGPT, הנחיות למפתחים וכלים לרשויות החוק.
OpenAI הכריזה על כלים חדשים למאבק בחומר התעללות מינית בילדים (CSAM), על רקע חששות בטיחות הולכים וגדלים סביב השימוש בכלי בינה מלאכותית. התכונות כוללות מסווג תמונות חדש לזיהוי CSAM, אזהרות וחסימות זמניות ב-ChatGPT, הנחיה חדשה למפתחים, וכלים לרשויות אכיפת החוק. החברה מסרה שהמסווג יכול לזהות תמונות CSAM, כולל כאלה שנוצרו על ידי בינה מלאכותית, והוא משותף עם חברות נבחרות דרך ה-API שלה ללא עלות.
מסווג תמונות חדש
OpenAI חשפה מסווג תמונות המחפש סימנים חזותיים של התעללות בתמונות שלא נראו קודם לכן, ומעניק ציון שיכול לתת כיוון אינדיקטיבי לבודקים. החברה מסרה שפיתחה את המסווג עם המרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC), ועובדת עם Tech Coalition ו-ROOST כדי לשתף גישה לכלי. בבדיקות מוקדמות עם שותפים, המסווג סימן 48% פחות תמונות תוך מציאת אותו מספר תמונות פוגעניות, מה שהפחית את עומס העבודה של הבודקים. תמונות שסומנו על ידי המסווג היו בעלות סיכוי כפול להיות תמונות פוגעניות.
אזהרות וחסימות ב-ChatGPT
OpenAI מוסיפה מסכי אזהרה ב-ChatGPT כדי למנוע ממשתמשים גישה לחומר הממצע ילדים. ChatGPT יציג התראה למשתמשים המנסים הנחיות כאלה, יפנה משתמשים לתמיכה מיוחדת להפסקת התנהגות מזיקה, וישהה את החשבון ל-24 שעות כאזהרה. האפליקציה כבר חוסמת תוכן CSAM ובקשות קשורות, ועבירות חוזרות עלולות להוביל להסרה קבועה של החשבון. OpenAI מסרה שגיבשה את ההודעה וההנחיות עם ארגונים וחוקרים, כולל Protect Children, קרן לוסי פיית'פול, וג'ואל סקנלן מאוניברסיטת טסמניה, שהעריכו באופן עצמאי ניסוי של הודעות מרתיעות.
כלים למפתחים ולרשויות אכיפת החוק
OpenAI מפרסמת הנחיות למפתחים המשתמשים בכליה כדי למנוע, לזהות ולעזור למשתמשים לדווח על תוכן CSAM. בבדיקות מוקדמות, ההנחיות עזרו למספר מפתחים לאמץ כלי בטיחות ילדים ולהירשם לדיווח על CSAM ל-NCMEC. החברה גם מציידת את רשויות אכיפת החוק בתכונות מבוססות בינה מלאכותית כגון תוספים ייעודיים, כלי חקירה, וניתוח נתונים מורכב, עם גישה המנוהלת על ידי מנהלי תוכנית. היא גם מספקת הכשרה לחוקרים יחד עם מדריך שטח כיצד להשתמש בבינה מלאכותית.
רקע ושינויים אחרונים
OpenAI התמודדה עם מספר תביעות המאשימות את הטכנולוגיה שלה בפגיעה במשתמשים, במיוחד בילדים. ארגון הבטיחות ללא מטרות רווח Common Sense Media סיווג את הטכנולוגיה של OpenAI כ"סיכון בלתי קביל" לבני נוער. צ'אטבוטים אחרים של בינה מלאכותית, במיוחד Grok, שימשו ליצירת דימויים מיניים לא בהסכמה, כולל של ילדים. OpenAI מסרה שביצעה שינויים ב-12 החודשים האחרונים, כולל פרסום תכנית בטיחות, עדכון הנחיות תוכן לאיסור תוכן בלתי הולם, כוונון מחדש של המודל כדי למנוע יצירת תוכן מזיק, ושחרור גרסה מיוחדת של ChatGPT לבני נוער.
מקורות: TechCrunch
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.