OpenAI מוסיפה מגבלות מחמירות יותר על שאלות בני נוער בנושא כלי נשק

OpenAI מסרה כי היא מוסיפה מגבלות מחמירות יותר על מידע הקשור לכלי נשק שבני נוער יכולים לקבל מ-ChatGPT, כולל שאלות שנראות תמימות. החברה אמרה שהשינויים נועדו לצמצם עוד יותר סיכוני שימוש לרעה תוך שמירה על גישה לתמיכה, להרגעה ולעזרה ביצירת קשר עם מבוגר מהימן.

מה משתנה עבור בני נוער

OpenAI מסרה שכבר יש לה מדיניות שמונעת מ-ChatGPT לסייע למשתמשים לבצע מעשי אלימות או לסייע לבני נוער להשיג כלי נשק. במסגרת המגבלות החדשות, החברה תגביל מידע מעשי על כלי נשק ומערכות אבטחה שעלול לשמש לרעה כדי לאפשר אלימות, גם כאשר אין סימן לכוונה אלימה. בני נוער עדיין יוכלו להשתמש ב-ChatGPT כדי למנוע או להרגיע אלימות, לבקש תמיכה וליצור קשר עם מבוגר מהימן.

גבולות מדיניות רחבים יותר

החברה אמרה שהיא גם מחזקת את גבולות המדיניות עבור כל המשתמשים. גבולות אלה חלים במיוחד על בקשות לשחזורים של מתקפות המוניות מהעבר, כולל פרטים על כלי נשק וציוד ששימשו וכיצד הושגו, והשוואות מפורטות בהיקף הנזק שעלולות להגביר את הפרסום של תוקף.

בקרות הורים והקשר הבטיחותי

המגבלות יפעלו לצד בקרות הורים ש-OpenAI הפעילה בשנה שעברה. בקרות אלה שולחות התראות להורים אם חשבונות מקושרים של בני נוער מפרים את מדיניות ChatGPT בנוגע לאיומים אלימים או למעשי אלימות. OpenAI מסרה שהאמצעים הנוספים מגיעים לאחר תביעה בגין מוות ברשלנות נגד החברה בשנה שעברה, ולאחר התנצלות פומבית של המנכ״ל Sam Altman על כך שלא התריע למשטרה על יומני צ'אט מדאיגים הקשורים לירי ב-Tumbler Ridge מוקדם יותר השנה.

מבט קדימה

OpenAI מסרה כי תפרסם את דוח הבטיחות הקהילתי הראשון שלה בתחילת 2027, עם עדכונים כל שישה חודשים לאחר מכן.

מקורות: Engadget