Հաշեվորում. Home Office-ի AI ապաստան հայցողների ամփոփումների 22%-ը չի հանդիպում ճշգրտության ստուգմանը

AI-ի ամփոփումները չեն հանդիպում ճշգրտության ստուգմանը

Open Rights Group-ի (ORG) հետազոտության համաձայն, Home Office-ի մասնագետների կողմից 2026 թվականի ապրիլում համակարգի գործունեության հետո ստուգված AI-ով գեներացված ապաստան հայցողների հարցազրույցների 203 ամփոփումներից 45-ը չի հանդիպել ճշգրտության ստուգմանը, այսինքն 22%։ Փորձնական շրջանում մերժման ցուցանիշը 9% էր։ Լրացում 19 ամփոփում պահանջեց լրացուցիչ ստուգում, իսկ 56 երկրորդ փուլի քննությունից 30-ը չի բավարարել ստանդարտը։

Սխալներում գործառույթային անճշտություններ և ապաստան հայցողների խոսքերի վատթարացումներ են հարցազրույցներում։ ORG-ը նաև հայտնաբերեց, որ ամփոփումը ստուգվել է նույնիսկ այն դեպքում, երբ կարևոր մանրամասներ է բաց թողել, բայց տրված տեղեկատվությունը ճիշտ էր։

Քննության ժամանակը վատթարանում է արդյունավետության խոստումների հաշվին

Հաշեվորումը հարց է տալիս, թե արդյոք գործիքները խնայում են ժամանակ։ ORG-ի խոսքով, 2026 թվականի ապրիլից սկսած սկզբնական կարևոր որոշումների միջին քանակը 2025 թվականի նույն ժամանակահատվածի համեմատ մոտ 42%-ով նվազել է, իսկ հարցազրույցից որոշման ժամանակը 29%-ով ավելացել է։ Սա չի հաստատում, որ դանդաղությունը AI-ն է առաջացրել, բայց սահմանափակ է հաստատում մինիստրների խոստացված արտադրողականությունը։

Ընդհանրապես, քիչ ամփոփում է ստուգվել։ ORG-ի գնահատականով, Home Office-ի մասնագետները ապրիլից հուլիս միայն 0,3% են ստուգել, ըստ վարչության միջին մոտավոր 17 515 գործի։

Վերահսկողության թերություններ երկու համակարգում

Գործիքներն են Asylum Case Summarisation (ACS), ապաստան հայցողների հարցազրույցների ամփոփումները, և Asylum Policy Search (APS), չաթի ոճի գործիք երկրի քաղաքականության որոնման համար։ Երկուսն էլ օգտագործում են OpenAI-ի GPT-4o-ն Microsoft-ի Azure AI Foundry-ի միջոցով։ Կառավարությունը հայտնում է, որ որոշումների համար մարդիկ են պատասխանատու, բայց ORG-ը կասկածում է, թե որքան հուսալի է աշխատողների կողմից AI-ի սխալների հայտնաբերումը։

APS-ի վերահսկողությունը հատկապես թույլ է։ Home Office-ը օգոստոսում հաստատեց, որ մասնագետական թեստավորումը դադարեցվել է, չնայած որ պառլամենտականներին տեղեկացնում էին ստուգման շարունակման մասին. ORG-ի խոսքով, արդյունքների ամփոփումը չի կատարվել։ Ապաստան հայցողներին նաև չեն տեղեկացնում, թե երբ են օգտագործել AI-ն իրենց գործում, և չեն ստուգում կամ ուղղում ամփոփումները։

Կոչեր դադարեցման և անկախ աուդիտի համար

ORG-ը նախազգուշացնում է, որ վարչության տվյալների պաշտպանության գնահատմամբ ACS-ն ավտոմատացնում է տեխնիկական մասնագետների աշխատանքը, ովքեր ստուգում էին և ամփոփում գործերը որոշումների կայացմանը, ինչը կարող է հեռացնել փորձելի ստուգման շերտը և ոչ միայն խնայել ժամանակ։ Խումը պահանջում է դադարեցնել երկու գործիքը և անկախ աուդիտ, քանի որ պաշտպանությունը բավարար չէ որոշումների համար, որոնք որոշում են, թե մարդ կմնա՞ն Միացյալ Թագավորությունում։

Այս եզրակացությունները հայտնի դարձան վարչությունում տեխնոլոգիաների հետ կապված այլ սկանդալներից հետո։ Հունիսում 60-ից ավելի իրավապաշտպան խումբը կոչ է արել մինիստրներին հրաժարվել AI-ի վրա հիմնված տարիքի գնահատման ծրագրերից, իսկ տեսուչությունը հայտնաբերել է, որ Atlas-ի միգրացիոն համակարգը չի տրամադրում հետադարձ կապ գործի կատարողներին ապաստանի բողոքներից։ Home Office-ը չի պատասխանել The Register-ի հարցերին։

Նյութերի աղբյուրներ. Theregister