Muse bütün dostlar və ailə üzvləri haqqında ətraflı profillər yaradır

Meta-nın AI agenti Muse viral hitə çevrildi: milyonlarla insan endirdi və bank hesablarına, mesajlara və sağlamlıq məlumatlarına qoşuldu. Tətbiqdən çıxarılan fayllar agentin istifadəçinin ətrafında olanlar haqqında məlumatı necə qurduğunu göstərir.

Son günlərdə bir neçə araşdırmacı Muse-in daxili fayllarını çıxardı və agentin əməliyyat təlimatlarını nəşr etdi. Müstəqil AI təhlükəsizliyi araşdırmacısı Karan Joshinin sözlərinə görə, təlimatlar adi söhbət interfeysi ilə çıxarılıb: Muse öz fayllarını kopyalamağı tələb edir. Meta bu faylların şəffaflıq üçün əlçat olduğunu bildirir.

İstifadəçinin həyatında olan hər kəs üçün profil

Bir təlimata əsasən, Muse saatda bir dəfə "istifadəçinin həyatında olan hər kəs üçün səhifə" yaradır: ailə üzvləri, tərəfdaşlar, dostlar, həmkarlar, "işçilər" və onların izlədiyi kəslər haqqında məlumat toplayır. Yaddaşa əsasən məsləhətlər verir: münasibəti necə yaxşılaşdırmalı və ya qəhvə sevən dostunu hamama nərəgə gətirməli.

Səhifə əvvəlcən "boşdur" və getdikcə dolar; orada Facts, History, The relationship, In common, Open threads və Strengthening bölmələri ola bilər. Model yalnız əlçatan "dələzlərdən" istifadə edir; uydurma detal boş səhifədən pisdir. Səhifəyə insanın harada yaşadığı, nə ilə məşğul olduğu, təkrarlanan mövzular (mənzilin dəyişdirilməsi, ümumi əmanətin məqsədi) və "vacib tarixlər", məsələn, ad günləri yazılır. Strengthening isə zəng səbəbindən yadda qalan tarixə qədər yaxşılaşdırma yollarını təklif edir.

Bu araşdırmacıları nə qorxudur

"Mənə elə görünür: bu bütün promptlardan, bacarıq məlumatlarından və Muse-ə verilən məlumatlardan onlar real insanlarla nə münasibətləriniz olduğunu öyrənmək istəyirlər. Sizi dostunuz kimi tanımağa çalışırlar ki, sözlərimi deyim, kifayət qədər xoşagəlməzdir", — deyir Joshi.

Çatbotlar sosial məlumatları əvvəlcədən qeyd edirdilər, lakin Muse-in halı Meta-nın tarixi və sosial şəbəkəyə geniş çıxışı səbəbindən xüsusidir. Oxford AI Etika İnstitutunun associa professoru Karisa Velis məlumat axınının tək tərəfli olduğunu bildirir: "AI sistemlərinə bizdən çox məlumat veririk, onlar isə bizə vermirlər".

Meta-nın cavabı və müdafiə mexanizmləri

Center for Democracy and Technology-nin AI idarəetmə laboratoriyasının direktoru Miranda Bogeni Muse-in rəqiblərinə nisbətən münasibətlər və şəxsi əlaqələrə daha çox diqqət yetirdiyini bildirir. Asistantlar isə istifadəçiləri daha çox məlumat paylaşmağa sövq edir: "Bu alətlər istifadəçiləri aktiv şəkildə bütün həyatlarını sistemə daxil etməyə tələb edir: e-poçt, təqvimlər, maliyyə qurumları, hər şey, ki, kömək faydalı olsun".

"Hər hansı agentin faydalı olması və məqsədlərinizə çatmaqda kömək etməsi üçün sizin və onlarla əlaqədə olduğunuz kəslər haqqında kontekst lazımdır", — deyir WIRED-a Meta nümayəndesi Daniel Roberts. Şirkətin sözlərinə görə, hər istifadəçinin öz virtual maşını var, başqa agentlər üçün əlçatmaz; yaddaşın silinməsi və ya xarici xidmətlərin söndürülməsi istənilən vaxt mümkündür. Muse satın almadan əvvəl və ya e-poçt göndərmədən əvvəl təsdiq tələb edir və audit jurnalı saxlayır.