Експерт із приватності: заборона «внесення шуму» стане катастрофою для статистики США

Міністерство торгівлі США видало наказ, який забороняє «внесення шуму» в усіх статистичних продуктах, що їх публікують Бюро перепису населення та Бюро економічного аналізу. Цей крок аналізує дослідник приватності Дам'єн Дефонтен: на його думку, наказ прибирає основу диференційної приватності — методу, який Бюро обрало для перепису 2020 року.

Інструменти уникнення розкриття

Статистичний продукт — це числа, опубліковані з таємного набору даних, і вони не повинні розкривати окремі конфіденційні записи. Фахівці називають цю сферу уникненням розкриття, і Дефонтен перелічує стандартні методи: придушення (відкидання показників, нижчих за поріг), укрупнення (зменшення точності атрибутів), вибірку, обмін атрибутами між записами, обмеження внеску та додавання шуму — домішування випадкового числа до статистики, щоб приховати її справжнє значення.

Поєднання обмеження внеску з ретельно відкаліброваним шумом дає диференційну приватність, яку допис називає золотим стандартом захисту приватності серед науковців.

Чому Бюро обрало шум

З 1990 по 2010 рік Бюро перепису для декадного перепису переважно використовувало обмін атрибутами. Згодом з'ясувалося, що ця техніка небезпечна, а окремі записи легко відновити з опублікованої статистики — а це проблема, адже федеральний закон вимагає зберігати ці записи конфіденційними. Для перепису 2020 року обрали саме диференційну приватність, бо серед варіантів, що зменшували ризик атаки, вона зберігала найбільше користі; її параметри підбирали для користі за прийнятного рівня приватності, а не для непохитних гарантій.

Цифри 2020 року були менш точними, ніж 2010-го, і неточність уже не можна було ігнорувати. Демографам і соціологам довелося працювати з «шумнішими» даними, а комунікація Бюро зазнала жорсткої критики. Відновлення записів, зазначає автор, було відкритим секретом і використовувалося політичними оперативниками для джеррімендерингу — ймовірно, саме тому вузька технічна дискусія привертає стільки політичної уваги.

Що робить наказ

Наказ націлений на диференційну приватність, але, схоже, зачіпає й інші методи, пов'язані з випадковістю: у тексті прямо сказано, що укрупненню слід завжди надавати перевагу, а придушення використовувати лише як «останній засіб». Наказ також застерігає, що його «не слід тлумачити як такий, що суперечить будь-якому конституційному, законодавчому, регуляторному чи іншому правовому положенню», тож зобов'язання щодо конфіденційності залишаються чинними.

Дефонтен доводить, що наслідки будуть важкими для користі або для приватності, а можливо, і для обох: майбутні публікації або будуть значно менш корисними, ніж попередні, або небезпечними. На шум спираються й інші поширені методи — метод Cell Key, обмін атрибутами, вибірка й навіть імпутація. Укрупнення та придушення — це тупі інструменти: вони працюють лише тоді, коли статистика вже дуже груба; на складних продуктах вони або знищують користь — особливо для меншин — або залишають дані вразливими до атак.

Допис завершується тезою, що атаки на статистичні публікації — це по суті розв'язування системи рівнянь, і саме невизначеність робить їх складними.