მედდები HCA-სა და Palantir-ის AI განრიგების სისტემას შეცდომებისა და გადაღლის წყაროდ მიიჩნევენ

HCA Healthcare-მა, აშშ-ის უმსხვილესმა საავადმყოფოების ქსელმა, 2023 წლიდან Palantir-თან ერთად შექმნილი AI განრიგების სისტემა Timpani დაახლოებით 190 დაწესებულებიდან 130-ში დანერგა. WIRED-თან მედდები ამბობენ, რომ პროგრამა ცვლებს არასწორად ანაწილებს და სურვილებს იშვიათად ითვალისწინებს.

ფლორიდელი ემბერ რეცლოფი, კრიტიკული მოვლის მედდა და პროფკავშირ National Nurses United-ის ლიდერი, ოთხ თვეში ითხოვდა, რომ 50 კონკრეტული 12-საათიანი ცვლა დაენიშნათ. მისი თქმით, ნახევარზე მეტ შემთხვევაში სხვა ცვლა მიიღო, ხშირად ზედიზედ სამი დღე. „არავის მოსწონს Timpani“, ამბობს ის; მსგავსი პრობლემები აქვთ სხვა დაწესებულებების ხუთ მედდასაც.

რას ამბობენ მედდები

მედდების თქმით, სისტემა ხშირად ცოტა მედდას ან ცოტა გამოცდილ თანამშრომელს ნიშნავს ცვლაზე, განსაკუთრებით კვირაობით. ცვლის გაცვლასა და გასაჩივრებას ახლა მეტი დრო სჭირდება. ერთ ცვლაზე რეცლოფის ოთხივე კოლეგა დამწყები იყო; ერთადერთ უფროს მედდას მძიმე პაციენტებზე ზრუნვა გადაედო, რათა დამწყებებს დახმარებოდა.

„წითელი დღეები“ და სარჩელი

HCA-ს მონაცემებით, Timpani საშუალოდ მედდების მოთხოვნილი დასვენების დღეების მხოლოდ 1%-ს ნიშნავს სამუშაოდ. მისურელი მედდა ლი ბარკერი ამბობს, რომ ადრე ეს წარმოუდგენელი იყო, ახლა კი თითქმის ყველა მედდას მოუწია დასვენების დღეს მუშაობა; ბარკერმა ვერ შეძლო ცვლის გაცვლა და ექიმთან ვიზიტიც გადადო. „გრძნობა ისეთია, თითქოს უკვე დაცემულს კიდევ გვარტყამენ“, ამბობს ის.

ახლა გასაჩივრებას HCA-ს ნეშვილის შტაბ-ბინის ცენტრალური გუნდი განიხილავს, ცვლის გაცვლა კი მხოლოდ 50% შემთხვევაში ახერხდება. პროფკავშირი National Nurses United, რომელიც HCA-ს 100 000 მედდიდან დაახლოებით 10 000-ს წარმოადგენს, აცხადებს, რომ კომპანიამ ტექნოლოგიის შესახებ ინფორმაცია არ გასცა. ივლისში HCA-ს უჩივლა მონაცემთა მეცნიერების ყოფილმა მენეჯერმა ანჟელიკ რასელმაც: მისი თქმით, Timpani-ის გამო შეშფოთების შემდეგ გაათავისუფლეს.

იგივე პლატფორმა Rayus Radiology-ში

ამ წლის დასაწყისში მსგავსი პრობლემები დაიწყო Rayus Radiology-მაც, აშშ-ის გამოსახულებითი დიაგნოსტიკის მსხვილმა ქსელმა, რომელიც Palantir Foundry-ზე აგებულ ინსტრუმენტს იყენებს. WIRED-ის ნანახი დოკუმენტების მიხედვით, პროგრამა ველებს ექიმების დანიშნულებიდან ავსებს, თუმცა ზოგჯერ მოთხოვნებს პაციენტის არასწორ პროფილს უკავშირებს, შეუთავსებელ კვლევებს ჩამოთვლის ან პაციენტებზე დეტალებს იგონებს. Rayus-ის თქმით, ტექნოლოგია ადამიანის გადაწყვეტილებას არ ცვლის.

HCA-სა და Palantir-ის პასუხი

HCA-ს წარმომადგენელი ჰარლოუ სამერფორდი ამბობს, რომ განრიგზე საბოლოო გადაწყვეტილებას მედდების ხელმძღვანელები იღებენ და არა Timpani; პროგრამის მიერ პერსონალის შემცირების ბრალდებას ის უარყოფს. HCA-ს ინოვაციების ხელმძღვანელის მაიკლ შლოსერის თქმით, სისტემამ განრიგზე დახარჯული საათები მკვეთრად შეამცირა, კონტრაქტის მედდებზე დამოკიდებულება დააკლო და კადრების შენარჩუნება გააუმჯობესა.

Palantir-ის წარმომადგენელმა სახელის დასახელებაზე უარი თქვა; კომპანია აცხადებს, რომ პროგრამები ინფორმაციას უფრო მოსახერხებლად წარმოაჩენს, პასუხისმგებლობა კი მომხმარებელს ეკისრება. Palantir-ის გაყიდვები ბოლო პერიოდში თითქმის გაორმაგდა, კვარტალში 2 მილიარდ დოლარამდე. „ყოველთვიურად ისმის ერთი და იგივე კითხვა, რატომ დამნიშნა ასე“, ამბობს ბარკერი.