Model hazırlanmasında işin çoxunu artıq AI agentləri görür, qərarları isə hələ də insanlar verir

Çindən olan Fudan Universitetinin tədqiqatçıları AI agentləri bir AI modelinin hazırlanmasına kömək edəndə qərarları əslində kimin verdiyini görmək üçün öz layihələrini araşdırdı və 56 iştirakçının 700-dən çox tapşırıq jurnalını təhlil etdi.

Layihənin nəticəsi mixture-of-experts arxitekturalı, 744 milyard parametrli agentic dil modeli Atria Dawn Preview oldu. Hər təlim tapşırığı real icra mühiti ilə bağlanır və testlər, metrikalar ya da mənbə sübutları ilə yoxlanılır. Komandaya görə, model veb axtarışı və kibertəhlükəsizlik daxil 16 benchmarkdan beşində liderdir, lakin ümumi üstünlüyü yoxdur.

Agentlər işin daha çoxunu öz üzərinə götürür

Araşdırılan tapşırıqların 96,5%-də AI istifadə olundu. Dörd həftə ərzində bir insan girişinə düşən agent hərəkətlərinin medianı 11-dən 28,5-ə yüksəldi; komanda bunu artan muxtariyyət kimi oxumamağa çağırır: hər insan qərarı sadəcə daha çox agent addımına səbəb olurdu.

İştirakçılar həmçinin tapşırıqdakı paylarını AI olmadan yerinə yetirə biləcəklərini qiymətləndirdi. AI dəstəyi ilə tamamlanan 455 tapşırıqdan 151-i, təxminən üçdə biri, AI olmadan qeyri-mümkün oldu və onlar 56 iştirakçının 27-nə paylanmışdı. AI başqa cür heç vaxt başlanmayacaq işi mümkün etdi.

AI təklif edir, insan seçir

Metodlar və parametrlər üzrə ən geniş yayılmış sxem "AI təklif edir, insan seçir" oldu: 55,4%. Bu qərarların 85,5%-ni insanlar verdi, AI isə yalnız 9,2%-də qaldı; məqsədlər və həcm üzrə son söz halların 93,4%-də insanlarda idi.

Eyni mənzərə işlər yolunda getməyəndə də təkrarlanır. Çətinliyi qeydə alınan 588 tapşırığın 76%-i insan müdaxiləsi ilə irəlilədi, 23%-ni agent özü həll etdi; kömək əsasən əlavə kontekst (35,2%) və ya diaqnoz (34,7%) şəklində gəldi, əl işi kimi deyil.

Rezin möhür riski

Hər qərar insanın yoxlaya biləcəyindən daha uzun agent işi zəncirinə söykənəndə nəzarət çətinləşir; komanda yazır ki, ən pis halda insanlar yalnız gördüklərinə formal təsdiq verə bilən yoxlayıcılara çevrilirlər. Bir çox iştirakçı agentləri avtonom rejimlərdə rahatlıq üçün işlədib, AI-nın səlahiyyətləri barədə şüurlu seçim etməyib.

Məqalə rekursiv özünütəkmilləşdirmə müzakirəsinin ortasında dərc olunub: Anthropic öz varisini inkişaf etdirən AI-nın gözləniləndən tez mümkün ola biləcəyini düşünür və şirkətin CEO-su Dario Amodei sənaye üçün sürət həddi tələb edir; aparıcı AI şirkətlərində min nəfərdən çox işçi isə təşkilatlarının AI tədqiqatlarının avtomatlaşdırılması astanasında ola biləcəyini bildirib.