OpenAI תאמן מודלים על נתוני הפעלות אבטחת סייבר של Daybreak Blue
החל מ-29 בנובמבר, OpenAI תשתמש בנתוני הפעלות של Daybreak Blue לאימון מודלים, ותהפוך החרגה קודמת לחברי Trusted Access, עם אפשרות הסרה נפרדת שהובטחה לאחר הביקורת.
OpenAI מתכננת להתחיל להשתמש בנתוני הפעלות של Daybreak Blue כדי לאמן את המודלים שלה ב-29 בנובמבר, לפי הודעת דואר אלקטרוני שנשלחה לחברי תוכנית Trusted Access. הנתונים הוחרגו בעבר מאימון, אפילו עבור משתמשים שההגדרה 'improve the model for everyone' הייתה כבויה. השינוי עורר ביקורת מהירה, ו-OpenAI הבטיחה מאוחר יותר אפשרות הסרה נפרדת.
שינוי מדיניות להפעלות Daybreak Blue
הודעת הדואר האלקטרוני של OpenAI לחברי Trusted Access אישרה שנתוני הפעלות של Daybreak Blue ישמשו לאימון מודלים החל מ-29 בנובמבר. בעבר, נתונים אלה הוחרגו מאימון, גם כאשר למשתמשים הייתה ההגדרה 'improve the model for everyone' כבויה. אינטראקציות שסומנו במהלך בדיקות בטיחות עדיין יכולות לשמש למטרות בטיחות.
ביקורת ואפשרות הסרה שהובטחה
הביקורת על השינוי הייתה מהירה. OpenAI שלחה הודעת דואר אלקטרוני שנייה שבה הבטיחה אפשרות הסרה נפרדת עבור השימוש בנתונים הרלוונטי.
חששות לגבי נתוני חוקרים
השינוי מדאיג חוקרים מחשש לחזרה על מקרה Buckmaster-Alpöge. המתמטיקאים Tristan Buckmaster ו-Levent Alpöge העלו טיוטות של משוואת Navier-Stokes ל-Codex של OpenAI. עד מהרה OpenAI הציגה הוכחה משלה אך הכחישה שהשתמשה בקלט שלהם לאימון. החשד לבדו הספיק כדי להראות לחוקרים מה עלול להשתבש.
מקורות: The Decoder
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.