Довідкові сторінки WhatsApp випадково викрили приховані інструкції чат-бота Meta

У довідкових сторінках WhatsApp знайшли приховані інструкції для чат-бота

Приблизно 80 довідкових і FAQ сторінок на сайті WhatsApp містили приховані текстові інструкції для однієї з великих мовних моделей Meta. За аналізом компанії з конфіденційності Redact, інструкції потрапили в код вебсторінок і не відображалися на самих сторінках. Близько 100 блоків прихованого тексту йшли під заголовком із позначкою «HelpContentGalaxyLLMInclude», а деякі розділи прямо називалися «WHAT NOT TO SAY».

Викриті вказівки включали правила відповідей чат-бота, коли користувач згадує судові позови, суди, юристів, адвокатів або судовий процес. На тих сторінках інструкції приписували чат-боту не цитувати, не наводити цитати, не тлумачити та не посилатися на Умови надання послуг WhatsApp, Політику конфіденційності або будь-який юридичний документ, не робити заяв щодо відповідальності WhatsApp і не надавати юридичних висновків, захисту чи тлумачень від імені WhatsApp. Інші інструкції забороняли посилатися на норми захисту даних або конфіденційності, такі як GDPR, LGPD або CCPA, у тому числі коли користувач прямо їх піднімає. На сторінці видалення облікового запису прихований текст забороняє радити звертатися до будь-якого органу з захисту даних, регулятора або наглядового органу. Окремі інструкції стосувалися відповідей користувачам, які повідомляють, що є глухими або мають порушення слуху: чат-боту пояснювали, що це довідкова інформація про користувача, а не запит на підтримку, і що йому не слід згадувати конкретні майбутні функції спільноти, які ще не доступні для всіх.

Meta вилучає текст після запиту WIRED

Після того як WIRED звернулася до Meta з приводу цієї проблеми, текст видалили з усіх сторінок. Представник WhatsApp Joshua Breckman сказав, що інструкції відображалися через помилку, яку виправили. «Це інструкції для нашого чат-бота, а не безпосередньо для користувачів, і вони мають на меті забезпечити точні та доречні відповіді для користувачів WhatsApp, які вирішують написати в WhatsApp Support з AI», сказав Joshua Breckman.

Dan Saltman, генеральний директор і засновник Redact, сказав, що його компанія регулярно сканує сайти та політики конфіденційності великих технологічних компаній, і що багато інструкцій WhatsApp спрямовували користувачів на офіційні канали підтримки. Він назвав це викриття розривом між вказівками для людей і для чат-ботів. Досі неясно, чи могли сторонні чат-боти отримати доступ до прихованого тексту і як довго він був видимим. Joshua Breckman сказав, що компанія навчає своїх чат-ботів підтримки бути максимально корисними, зосереджуючись на порадах щодо продукту, а не на юридичних порадах.

Джерела: Wired