OpenAI навчатиме моделі на даних сесій Daybreak Blue у сфері кібербезпеки

OpenAI планує почати використовувати дані сесій Daybreak Blue для навчання своїх моделей 29 листопада, згідно з електронним листом, надісланим учасникам програми Trusted Access. Раніше ці дані були виключені з навчання, навіть для користувачів, у яких було вимкнено налаштування «покращувати модель для всіх». Зміна викликала швидку критику, і OpenAI згодом обіцяла окрему можливість відмовитися.

Зміна політики щодо сесій Daybreak Blue

Електронний лист OpenAI учасникам Trusted Access підтвердив, що дані сесій Daybreak Blue використовуватимуть для навчання моделей починаючи з 29 листопада. Раніше ці дані були виключені з навчання, навіть коли користувачі мали вимкнене налаштування «покращувати модель для всіх». Взаємодії, позначені під час перевірок безпеки, і далі можуть використовуватися для цілей безпеки.

Критика та обіцяна можливість відмовитися

Критика зміни була швидкою. OpenAI надіслала другий електронний лист, у якому обіцяла окрему можливість відмовитися для відповідного використання даних.

Занепокоєння щодо даних дослідників

Ця зміна викликала в дослідників занепокоєння щодо повторення випадку Buckmaster-Alpöge. Математики Tristan Buckmaster і Levent Alpöge завантажили чернетки рівнянь Navier-Stokes до Codex від OpenAI. OpenAI невдовзі представила власне доведення, але заперечила використання їхніх вхідних даних для навчання. Самої підозри виявилося достатньо, щоб показати дослідникам, що може піти не так.

Джерела: The Decoder