Hesabat: Home Office-un AI iltimas xülasələrinin 22% dəqiqlik yoxlamasını keçmir

AI xülasələri dəqiqlik testini keçmir

Open Rights Group-un (ORG) araşdırmasına görə, ekspertlər 2026-cı il aprel ayında sistemin işə salınmasından sonra AI ilə yaradılmış iltimas müsahibələrinin 203 xülasəsindən 45-i dəqiqlik testini keçə bilməyib, yəni 22%. Pilot dövründə rədd göstərici 9% təşkil edirdi. Həmçinin 19 xülasə əlavə yoxlanma tələb edib, 56 ikinci mərhəli baxımdan isə 30-u standata cavab verməyib.

Xətalarda faktiki qeyri-dəqiqliklər və müsahibələrdə iltimasçıların sözlərinin çarpazlanması var. ORG həm də müəyyən etib ki, xülasə yoxlanırdı, əgər mühüm detalları özündən kənarda saxlayırdısa, verilmiş məlumat doğru idi.

Baxım müddəti effektivlik vədərinə baxmayaraq pisləşir

Hesabat sual qoyur, alətlər vaxtı qısandırmıyırmı? ORG-nin sözlərinə görə, 2026-cı il aprel ayından ilk dəfə əsas qərarlın aylıq orta sayı 2025-ci ilin eyni dövrünə nisbətən təxminən 42% azalıb, müsahibədən qərara qədər olan müddət isə 29% artıb. Bu, yavaşlığın AI-dan səbəb olduğunu təsdiqləmir, lakin ministrlerin vədişdi məhsuldarlığı zəif təsdiq edir.

Ümumi, çox az xülasə yoxlanıb. ORG-nin qiymətləndirməsinə görə, Home Office ekspertləri apreldən iyula qədər yalnız 0,3%-ni yoxlamayıb, qeyri-müəyyən agentliyin 17 515 işi ilə nisbətəndə.

Zəif nəzarət hər iki sistemdə

Alətlər Asylum Case Summarisation (ACS), iltimas müsahibələrinin xülasələşdirilməsi üçün və Asylum Policy Search (APS), ölkə siyasəti axtarışı üçün söhbət alətidir. Hər ikisi Microsoft Azure AI Foundry vasitəsilə OpenAI-nin GPT-4o modelindən istifadə edir. Hökumət bildirir ki, qərarlar üzərində insanlar cavabdehdlidir, lakin ORG şübhə edir ki, işçilər AI xətalarını nə qədər etibarlı şəkildə aşkar edirlər.

APS nəzarəti xüsusilə zəifdir. Home Office avqustda ekspert testlərin dayandığını təsdiqləyib, baxmayaraq ki, parlamenterlərə yoxlamanın davam etdirilməsini bildiriblər; ORG-nin sözlərinə görə, nəticələrin icrası hazırlanmayıb. İltimasçılara AI-nin işlərində nə vaxt istifadə edildiyi bildirilmir, xülasələr isə yoxlanmır və düzəldilmir.

Dayandırma və müstəqil audit çağırışları

ORG xəbərdarlıq edir ki, agentliklərin məlumat mühafizə qiymətləndirmələri ilə ACS texniki mütəxəssislərin işini avtomatlaşdırır, bu da işlərin qərarlar verilməzdən əvvəl yoxlanması və icrası üçün təcrübəli qatı aradan qaldıra bilər, yalnız vaxt qənaət etmir. Qrup hər iki alətin dayandırılmasını və müstəqil audit tələb edir, çünki qoruma Birləşmiş Krallıqda qalmaq qərarı kimin üçün həlledici olduğunu göstərmək üçün kifayət deyil.

Bu nəticələr agentlikdə texnologiyalarla bağlı digər skandalların ardından məşhur olub. İyunda 60-dan çox hüquq qoruğu qrupu ministrərə AI əsaslı yaş qiymətləndirmələri planlarından imtina etməyə çağırdı, yoxlama isə Atlas immiqrasiya sisteminin işçilərə iltimas şikayətlərinə cavab vermədiyini müəyyən etdi. Home Office The Register-a cavab verməyib.

Mənbələr: Theregister