OpenAI Daybreak Blue kiber təhlükəsizlik sessiyası məlumatlarını modelləri öyrətmək üçün istifadə edəcək

OpenAI 29 noyabrdan etibarən Daybreak Blue sessiyası məlumatlarını modellərini öyrətmək üçün istifadə etməyə başlayacaq; bu, Trusted Access proqramının üzvlərinə göndərilən e-poçta əsasən bildirilir. Əvvəllər bu məlumatlar təlimdən kənar saxlanılırdı, hətta istifadəçilər 'hamı üçün modeli yaxşılaşdır' parametrini söndürmüşdüsə belə. Dəyişiklik dərhal sərt reaksiyaya səbəb oldu və OpenAI daha sonra ayrıca imtina imkanı vəd etdi.

Daybreak Blue sessiyaları üçün siyasət dəyişikliyi

Trusted Access üzvlərinə göndərilən e-poçt Daybreak Blue sessiyası məlumatlarının 29 noyabrdan etibarən model öyrədilməsi üçün istifadə olunacağını təsdiqlədi. Əvvəllər bu məlumatlar təlimdən kənar saxlanılırdı, hətta istifadəçilər 'hamı üçün modeli yaxşılaşdır' parametrini söndürmüşdüsə belə. Təhlükəsizlik yoxlamaları zamanı işarələnən qarşılıqlı əlaqələr hələ də təhlükəsizlik məqsədləri üçün istifadə oluna bilər.

Sərt reaksiya və vəd edilən imtina imkanı

Dəyişikliyə qarşı reaksiya sərt oldu. OpenAI təsirlənən məlumat istifadəsi üçün ayrıca imtina imkanı vəd edən ikinci e-poçt göndərdi.

Tədqiqatçı məlumatları ilə bağlı narahatlıqlar

Bu dəyişiklik tədqiqatçıları Buckmaster-Alpöge hadisəsinin təkrarlanmasından narahat edir. Riyaziyyatçılar Tristan Buckmaster və Levent Alpöge Navier-Stokes tənliklərinin qaralamalarını OpenAI-nin Codex-inə yüklədilər. OpenAI tezliklə öz sübutunu təqdim etdi, lakin onların daxiletmələrini öyrədilmə üçün istifadə etdiyini inkar etdi. Yalnız şübhə tədqiqatçılara nəyin səhv gedə biləcəyini göstərmək üçün kifayət idi.

Mənbələr: The Decoder