Meta işçilərə AI üçün məlumat toplanmasını 30 dəqiqə dayandırmaq imkanı verdi

Meta işçilərinin klaviatura və siçan hərəkətlərini süni intellekt modellərini öyrətmək üçün qeydə alan proqramı geri çəkir. Şirkətin çərşənbə axşamı göndərdiyi daxili memo-ya görə, yeni nəzarət mexanizmləri işçilərə məlumat toplanmasını "bir dəfəyə 30 dəqiqəyə qədər" dayandırmaq və proqramdan tamamilə azad olmağı xahiş etmək imkanı verəcək.

Nə dəyişir

Reuters-in gördüyü memo-ya görə, sənədin müəllifi Meta-nın Superintelligence Labs bölməsində vitse-prezident olan Stefan Kasrieldir. Onun sözlərinə görə, alətin komandası noutbukların batareya ömrünə təsiri azaltmaq üçün "bir neçə optimallaşdırma" tətbiq edib. Bu, işçilərin alətin o qədər çox məlumat sərf etdiyini, evdən işləyərkən internet istifadəsinin kəskin artdığını bildirməsindən sonra baş verib.

"Buraxılış zamanı tətbiq etdiyimiz və bir neçə risk qiymətləndirməsi mərhələsindən keçən məxfilik qorumalarına hələ də əminik, lakin iş cihazlarındakı şəxsi məlumatlar, batareya ömrü və toplamanın nə vaxt baş verdiyinə daha çox nəzarət istəyi ilə bağlı narahatlıqlarınızı eşitdik", — yazıb Kasriel.

Reaksiyalar

Model Capability Initiative (MCI) adlı alət apreldə elan edilmişdi. O zaman Meta deyirdi: "İnsanların kompüterdə gündəlik işlərini yerinə yetirməsinə kömək edən agentlər qururuqsa, modellərimizə insanların onlardan real olaraq necə istifadə etdiyinə dair real nümunələr lazımdır". Şirkət əlavə edirdi ki, məlumatlar başqa məqsədlə istifadə olunmayacaq və həssas məzmunu qoruyan tədbirlər mövcuddur.

İşçilər buna inanmadılar. Adının açıqlanmamasını istəyən bir Meta işçisi BBC-yə bildirib ki, öz hərəkətləri ilə AI modellərini öyrətmək "çox distopik" görünür, xüsusən də işçilərin yeni ixtisarlar gözlədiyi bir vaxtda. Şirkətdən bu yaxınlarda ayrılan başqa bir şəxs izləmə alətini "süni intellektin hamıya zorla yeridilməsinin növbəti yolu" adlandırıb. Təşəbbüsə qarşı petisiya 1500-dən çox imza toplayıb.

Niyə vacibdir

Bu hadisə bacarıqlı AI agentləri yaratmaq yarışının iş yerindəki məxfilik gözləntiləri ilə necə toqquşduğunu göstərir. Meta modellərini təkmilləşdirmək üçün real istifadəçi davranışı toplayan yeganə şirkət deyil, lakin MCI-nin miqyası və birbaşalığı — iş kompüterlərində kliklərin və düymə basmalarının qeydə alınması — onu şirkət daxilində gərginlik nöqtəsinə çevirdi.

Meta rəsmi şərh verməkdən imtina etdi. Yenilənmiş nəzarət mexanizmləri proqramı ləğv etmir; onlar işçilərə ondan çıxmağın məhdud yolunu verir və azadolma müraciətlərinin necə qiymətləndiriləcəyi hələ də bəlli deyil.