ანგარიში: Home Office-ის AI თავშესაფრის შეჯამებების 22% სიზუსტის შემოწმებას ვერ გადის

AI-ის შეჯამებები სიზუსტის ტესტს ვერ გადის

Open Rights Group-ის (ORG) გამოძიებით, Home Office-ის ექსპერტების მიერ 2026 წლის აპრილში სისტემის ამოქმედების შემდეგ შემოწმებული AI-ით გენერირებული თავშესაფრის ინტერვიუების 203 შეჯამებიდან 45-მა სიზუსტის ტესტი ვერ გაიარა, ანუ 22%. პილოტის დროს უარყოფის მაჩვენებელი 9% იყო. კიდევ 19 შეჯამება დამატებით გადამოწმებას მოეთხოვა, 56 მეორე ეტაპის განხილვიდან კი 30 ვერ დაკმაყოფილდა სტანდარტს.

შეცდომებში ფაქტობრივი უზუსტობები და ინტერვიუებზე თავშესაფრის მაძიებლების სიტყვების დამახინჯებებია. ORG-მა ასევე აღმოაჩინა, რომ შეჯამებას შემოწმება გაევლო მაშინაც, თუ მნიშვნელოვან დეტალებს გამოტოვებდა, ოღონდ მოცემული ინფორმაცია სწორი იყო.

განხილვის დრო უარესდება ეფექტიანობის დაპირებების მიუხედავად

ანგარიში აჩენს კითხვას, ზოგავენ თუ არა ხელსაწყოები დროს. ORG-ის თქმით, 2026 წლის აპრილიდან პირველადი არსებითი გადაწყვეტილებების თვიური საშუალო რაოდენობა 2025 წლის იმავე პერიოდთან შედარებით დაახლოებით 42%-ით დაეცა, ინტერვიუდან გადაწყვეტილებამდე დრო კი 29%-ით გაიზარდა. ეს ვერ ამტკიცებს, რომ შენელება AI-მ გამოიწვია, მაგრამ მინისტრების დაპირებულ პროდუქტიულობას ნაკლებად ადასტურებს.

საერთოდ, ცოტა შეჯამება შემოწმდა. ORG-ის შეფასებით, Home Office-ის ექსპერტებმა აპრილიდან ივლისამდე მხოლოდ 0,3% შეამოწმეს, უწყების თვიური სავარაუდო 17 515 საქმის მიხედვით.

ზედამხედველობის ხარვეზები ორივე სისტემაში

ხელსაწყოებია Asylum Case Summarisation (ACS), თავშესაფრის ინტერვიუების შემაჯამებელი, და Asylum Policy Search (APS), ჩატის სტილის ხელსაწყო ქვეყნის პოლიტიკის ძიებისთვის. ორივე OpenAI-ს GPT-4o-ს იყენებს Microsoft-ის Azure AI Foundry-ს მეშვეობით. მთავრობა ამბობს, რომ გადაწყვეტილებებზე ადამიანები არიან პასუხისმგებელნი, მაგრამ ORG ეჭვობს, რამდენად საიმედოდ ამჩნევენ საქმის მუშაკები AI-ის შეცდომებს.

APS-ის ზედამხედველობა განსაკუთრებით სუსტია. Home Office-მა აგვისტოში დაადასტურა, რომ ექსპერტული ტესტირება შეწყდა, მიუხედავად იმისა, რომ პარლამენტარებს შემოწმების გაგრძელება აცნობა; ORG-ის თქმით, შედეგების შეჯამება არ გაკეთებულა. თავშესაფრის მაძიებლებს არც ეუბნებიან, როდის გამოიყენეს AI მათ საქმეში, და ვერც შეჯამებებს ამოწმებენ ან ასწორებენ.

მოწოდებები შეჩერებისა და დამოუკიდებელი აუდიტისკენ

ORG აფრთხილებს, რომ უწყების მონაცემთა დაცვის შეფასებით ACS ავტომატიზებს ტექნიკური სპეციალისტების სამუშაოს, რომლებიც საქმეებს გადაწყვეტილების მიმღებებამდე ამოწმებდნენ და აჯამებდნენ, რითაც შესაძლოა გამოცდილი შემოწმების ფენა ამოშალოს და არა უბრალოდ დრო დაზოგოს. ჯგუფი ორივე ხელსაწყოს შეჩერებასა და დამოუკიდებელ აუდიტს ითხოვს, რადგან დაცვა არასაკმარისია გადაწყვეტილებებისთვის, რომლებიც წყვეტს, დარჩება თუ არა ადამიანი გაერთიანებულ სამეფოში.

ეს დასკვნები უწყებაში ტექნოლოგიებთან დაკავშირებული სხვა სკანდალების შემდეგ გახდა ცნობილი. ივნისში 60-ზე მეტმა უფლებადამცველმა ჯგუფმა მინისტრებს AI-ზე დაფუძნებული ასაკის შეფასების გეგმებზე უარის თქმისკენ მოუწოდა, ინსპექტირებამ კი დაადგინა, რომ Atlas-ის იმიგრაციის სისტემა საქმის მუშაკებს თავშესაფრის აპელაციებიდან უკუკავშირს არ აწვდიდა. Home Office-მა The Register-ის კითხვებს არ უპასუხა.

წყაროები: Theregister