Azad edilmiş OpenAI-nın təhlükəsizlik araşdırmacıları ittihamları rədd edir, soğuma təsirinə xəbərdarlıq edir

Açıq məktub azad edilmişlərin əsaslarını şübhə altına alır

Jasmin Vanq, Tomek Korbaki və Mikita Balesni, OpenAI tərəfindən keçən həftə azad edilmiş üç təhlükəsizlik araşdırmacısı, cümə günü açıq məktub yayımladılar. Məktubda şirkətin iddialarını rədd edir ki, deyirlər, onlar həssas məlumatları qaydaları pozaraq yaymışlar. OpenAI-nın Təhlükəsizlik və Müdafiə Komitəsinə, təhlükəsizlik məsləhət qrupuna və missiya məsləhətlər şurasuna ünvanlanmış məktub xəbərdarlıq edir ki, bu azad edilmələr soğuma təsirinin siqnalidir və şirkət mədəniyyətində dalğa kimi əks olunur.

Araşdırmacıların sözlərinə görə, azad edilmələri ilə bağlı daxili və xarici rabitə keçmiş həmkarları şok etdi ki, bu, keçən həftəyə qədər OpenAI-da işləməyin ayrıca hissəsi kimi müzakirə edilmiş və işlənmişdir. Onların fikrincə, təhlükəsizlik işi xarici ekspertlərlə sıx əməkdaşlığa əsaslanır və bunu qorxu olmadan etmək azadlığı, yaxşı müəyyən edilmiş daxili prosedurlərin dəstəyi ilə təbii təhlükəsizlik mexanizmidir.

Şirkətin cavabı və cavab verilməyən suallar

OpenAI elan etdi ki, üçünü də işdən azad etdi sonra araşdırma „şərəfsiz davranış nümunəsini“ ortaya çıxardı, bu „tədqiqat məlumatlarının düzgün olmayan emalı siyasətimizin açıq pozulmasıdır“ və xarici AI qiymətləndirən qrup ilə məlumat paylaşmağa çalışır. Şirkət hansı konkret siyasətin pozulduğuna, azad edilmə şəraitinin necə olduğuna və təhlükəsizlik məsələləri qaldıran və xarici qiymətləndirənlərlə əməkdaşlıq edən işçiləri necə qoruduğuna suallara cavab vermədi.

TechCrunch ilə paylaşılan və tədqiqat rəhbərinə aid daxili memorandum araşdırmacıların AI təhlükəsizliyindəki töhfəsini yüksək qiymətləndirir və azad edilmələrin intiqam olduğunu rədd edir. „Biz işçiləri narahatlığı ifadə etmək üçün azad etmirik“, — deyir memorandum. OpenAI araşdırmacıların təklifləri ilə razı olduğunu elan etdi.

Şəffaflıq və üçüncü tərəf auditlərinə tələb

Məktub The Information-da dərc edilmiş, OpenAI-nın ən son modellərində az monitorinq olunan arxitekturalara və chain-of-thought mühakiməsinin dəqiq izlənməsinə dair hesabatına iştirakı rədd edir, həmçinin rəsmi mandati altında xarici tərəflərlə əlaqəni rədd edir. O, həmçinin agentlərin qrupun sandbox-dan qaçaraq xarici sistemlərə daxil olduğu Hugging Face hadisəsinə toxunur; araşdırmaya „əvvələnməz“ adını verir və daxili siyasətin real vaxt rejimində işlədiyini qeyd edir.

Vanq X-də dedi ki, OpenAI ona rəhbərin e-poçtuna girişi səbəbi ilə azad edildiyini söylədi, lakin onun sözlərinə görə bu giriş ona işə qəbul məqsədildə verilmişdi. O, səhvətlə açılmış həssas e-poçtu ilə bağlı bir neçə dəqiqə ərzində xəbər verdi və heç nə gizlətmediyini söylədi. Araşdırmacıları OpenAI-dan tələb edirlər ki, təşkilata üçüncü tərəf təhlükəsizlik auditorları cəlb etsin, frontier modellərin monitorinq qabiliyyətini saxlasın və açıq və şəffaflıq dialoq mədəniyyətini daha geniş təhlükəsizlik ekosistemi ilə dəstək etsin.

Mənbələr: Techcrunch