Звіт: 22% резюме Home Office з питань притулку, згенеровані AI, не проходять перевірку точності

Резюме AI не проходять тест на точність

За розслідуванням Open Rights Group (ORG), з 203 згенерованих AI резюме інтерв'ю з притулком, які перевірили експерти Home Office після впровадження системи у квітні 2026 року, 45 не пройшли тест на точність, тобто 22%. Під час пілотного проєкту показник відмов становив 9%. Ще 19 резюме вимагали додаткової перевірки, а з 56 другорядних розглядів 30 не відповідали стандарту.

Серед помилок — фактичні неточності та спотворення слів шукачів притулку в інтерв'ю. ORG також виявила, що резюме проходило перевірку, навіть якщо пропускали важливі деталі, за умови, що надана інформація була правильною.

Час розгляду погіршується незважаючи на обіцянки ефективності

Звіт ставить під сумнів, чи заощаджують інструменти час. За словами ORG, з квітня 2026 року щоденна кількість первинних рішень зменшилася приблизно на 42% порівняно з тим самим періодом 2025 року, а час від інтерв'ю до рішення збільшився на 29%. Це не підтверджує, що уповільнення було спричинене AI, але недостатньо підтверджує обіцянку міністрів щодо продуктивності.

Загалом перевірено дуже мало резюме. За оцінками ORG, експерти Home Office з квітня по лилипень перевірили лише 0,3%, виходячи із щоденної орієнтовної кількості 17 515 справ відомства.

Недоліки нагляду в обох системах

Інструментами є Asylum Case Summarisation (ACS), резюме інтерв'ю з притулком, та Asylum Policy Search (APS), інструмент у стилі чату для пошуку інформації про політику країни. Обидва використовують GPT-4o від OpenAI через Azure AI Foundry від Microsoft. Уряд заявляє, що за рішення відповідають люди, але Є сумніви щодо того, наскільки надійно працівники справ виявляють помилки AI.

Нагляд над APS особливо слабкий. Home Office підтвердила у серпні, що експертне тестування було припинене, незважаючи на те, що парламентарям було повідомлено про продовження перевірок; за словами ORG, підсумки не були підготовлені. Шукачам притулку також не повідомляють, коли AI використовувалася у їхній справі, і вони не можуть перевіряти або виправляти резюме.

Заклики зупинити та провести незалежний аудит

ORG попереджає, що за оцінками відомства з захисту даних ACS автоматизує роботу технічних спеціалістів, які перевіряли та узагальнювали справи до винесення рішень, що може усунути шар досвідчених перевірок, а не просто заощадити час. Група вимагає зупинити обидва інструменти та провести незалежний аудит, оскільки захист недостатній для рішень, які визначають, чи залишиться людина у Великій Британії.

Ці висновки стали відомі після інших скандалів, пов'язаних з технологіями, у відомстві. У червні понад 60 правозахисних груп закликали міністрів відмовитися від планів оцінки віку на основі AI, а інспекція виявила, що іміграційна система Atlas не надсилала працівникам справ апеляції шукачів притулку. Home Office не відповіла на запитання The Register.

Джерела: Theregister