HCA və Palantir AI cədvəl sistemini səhvlər və yorğunluq mənbəyi sayırlar

HCA Healthcare, ABŞ-ın ən böyük xəstəxana şəbəkəsi, 2023-cü ildə Palantir ilə birgə yaradılmış Timpani AI cədvəl sistemini təxminən 190 qurumdan 130-unda işə salıb. WIRED-ə verən məlumata görə, proqram növbələri səhv bölüşdürür və arzuları nadir nəzərə alır.

Florida tibb işçisi Amber Reclof, intensiv müalicə tibb işçisi və National Nurses United peşə birliyinin lideri, dörd ay ərzində 50 konkret 12 saatlik növbə təyin etməyi tələb edib. Onun sözünə görə, yarıdan çox hallarda başqa növbə alıb, tez-tez üst-üstə üç gün. “Kimə xoş gelmir Timpani”, — deyir o; oxşar problemləri beş başqa qurumun tibb işçilərinin də olduğunu bildirir.

Tibb işçiləri nə deyir

Tibb işçilərinin sözünə görə, sistem tez-tez növbəyə az sayda və ya az təcrübəli işçi təyin edir, xüsusi ilə həftə sonları. Növbə dəyişmək və dəyişiklik tələb etmək indi daha çox vaxt aparır. Bir növbədə Reclofun dörd həmkarı başlanğıc səviyyəsində idi; yeganə daha yaşlı tibb işçisi isə başlanğıc səviyyəli işçilərə kömək etmək üçün ağır xəstələrə qulluq etməyə keçib.

“Qırmızı günlər” və iş

HCA məlumatlarına görə, Timpani tibb işçilərinin tələb etdiyi istirahət günlərinin yalnız 1%-ini işə göstərir. Missuri tibb işçisi Lee Barker deyir ki, bu əvvəl inanılmaz idi, indi isə demək olar ki, hər tibb işçisi istirahət günü işləməyə məcbur olub; Barker növbə dəyişə bilməyib və həkim ziyarətini də təxirə salıb. “Elə hiss olur ki, artıq yıxılanı yenə döyürük”, — deyir o.

İndi dəyişiklikləri HCA-nın Nashville qərargahının mərkəzi qrupu nəzərdən keçirir, növbə dəyişmək isə yalnız 50% hallarda mümkün olur. National Nurses United peşə birliyi, HCA-nın 100 000 tibb işçisindən təxminən 10 000-ni təmsil edir, şirkətin texnologiya barədə məlumat vermədiyini bildirir. İyul ayında HCA-nın məlumat elmi keçmiş meneceri Angelika Russell də HCA-nı məhkəməyə verdi: onun sözünə görə, Timpani səbəbi ilə narahatçılıqdan sonra azad edilib.

Eyni platforma Rayus Radiology-də

Bu ilin əvvəlində oxşar problemlər ABŞ-ın böyük radiologiya şəbəkəsi Rayus Radiology-də də başladı, bu şəbəkə Palantir Foundry üzərində qurulmuş alətdən istifadə edir. WIRED-ə baxılan sənədlərə görə, proqram həkimlərin təyinatlarını doldurur, lakin bəzən sorğuları xəstənin səhv profili ilə əlaqələndirir, uyğunsuz araşdırmaları siyahılayır və ya xəstələr haqqında detalları unudur. Rayus-ın sözünə görə, texnologiya insan qərarlarını dəyişmir.

HCA və Palantir cavabı

HCA nümayəndesi Harlow Somerford deyir ki, cədvəl üzrə son qərarları Timpani deyil, tibb işçilərinin rəhbərləri qəbul edir; proqram tərəfindən personalın azaldılması ittihamını rədd edir. HCA innovasiyalar rəhbəri Michael Schlosserin sözünə görə, sistem cədvəl üzrə sərf olunan saatları əhəmiyyətli azaldıb, kontraktlı tibb işçilərinə asılılığı azaldıb və kadrların saxlanmasını yaxşılaşdırdı.

Palantir nümayəndesi adını bəyan etməkdən imtina etdi; şirkət proqramların məlumatı daha əlçatan etdiyini, məsuliyyətin isə istifadəçiyə düşdüyünü bildirir. Palantir satışları son dövrdə demək olar ki, ikiqat artıb, kvartalda 2 milyard dollara çatıb. “Hər dəfə eyni sual eşidirəm: niyə belə təyin edib”, — deyir Barker.