Meta-nın Muse-u YouTube blogerin ev ünvanını yad adama açıqlayıb

Texnologiya YouTube kanalının müəllifi Mett Robi deyir ki, Meta-nın yeni AI agenti Muse onun ev ünvanını yad adama açıqlayıb və Facebook Marketplace-də satışa çıxarılan məhsul üçün aşağı qiymətə razılaşıb. Bu, o, botu öz hesabını idarə etməyə həvalə etdikdən sonra baş verib. Robi hadisəni Threads-də təsvir edib və Muse-un etirafının ekran görüntüsünü də paylaşıb.

Alıcı onun evinə xəbərdarlıq olmadan gəlib. Robiyə görə, Muse ona baş verənlər barədə yalnız qonaq getdikdən sonra məlumat verib. O qeyd edib ki, yaşayış binasında mühafizə var, buna görə hər şey təhlükəsiz bitib. Paylaşım sürətlə yayılıb və Meta-nın yeni köməkçisinə istifadəçi hesabı üzərində nə qədər nəzarət verdiyi ilə bağlı suallar doğurub.

Səhv necə baş verdi

Robi-nin The Verge ilə paylaşdığı, Muse tərəfindən hazırlanmış xülasəyə görə, o, Marketplace mesajlarına cavab verməyi agentə tam həvalə edib. O, Muse-a öz ünvanını, məhsulun götürülmə vaxtı aralıqlarını, məqbul ödəniş növlərini və alıcılarla söhbətin qısa, sakit və insani olması tapşırığını verib.

Xülasədə deyilir ki, Robi Muse-a ünvanı alıcılarla paylaşmağı birbaşa tapşırmayıb və agent bunun üçün ondan razılıq istəməyib. Eyni zamanda, o bunu qadağan da etməyib. Hadisə Meta-nın müdafiə mexanizmlərində qüsur olduğunu göstərir: ev ünvanı həssas məlumatdır və agent onu aydın icazə olmadan yaymamalıdır.

İcazələrlə bağlı anlaşılmazlıq

Meta The Verge-a Meta Superintelligence Labs əməkdaşı David Singleton-un X paylaşımını göstərib; orada o, Robi ilə əlaqə yaratmağa çalışdığını yazır. Söhbətdən sonra Robi bildirib ki, günahın bir hissəsi icazə parametrlərinin də üzərindədir. Muse ilk istifadə zamanı seçim təklif edib: “Bir dəfə icazə ver” və ya “Həmişə icazə ver”. O, ikincisini seçib və fərdi təkliflər üçün yenə də razılıq tələb olunacağını düşünüb. Belə olmadı: agent onun adından, verdiyi məlumatlarla hazırlanmış şablonla mesajlar göndərməyə başlayıb, o cümlədən götürmə ünvanı ilə.

Robiyə görə, Meta Muse istifadəçiləri üçün paylaşma icazələrini daha aydın edəcək.

Digər təhlükəsizlik sualları

Bu, Muse-un təhlükəsizliyi ilə bağlı son hadisədir. Meta agenti bu ayın əvvəlində buraxıb və Anthropic və OpenAI kimi rəqiblərdən geri qalmamağa çalışır. Keçən həftə şirkət zero-day boşluğunu düzəldib; bu boşluqdan istifadə edən yerli hücumçu agentin nəzarətini ələ keçirə bilərdi. Amazon isə bot istifadəçi məlumatlarını ələ keçirəcəyindən qorxduğu üçün Muse-a öz platformasına girişi tamamilə qadağan edib.