მოდელის შექმნაში AI-აგენტები მეტ საქმეს აკეთებენ, გადაწყვეტილებებს კი ადამიანები იღებენ

ჩინეთის ფუდანის უნივერსიტეტის მკვლევრებმა საკუთარი პროექტი შეისწავლეს, რომ გაერკვიათ, ვინ იღებს გადაწყვეტილებებს, როცა AI-აგენტები AI მოდელის შექმნაში ეხმარებიან; გააანალიზეს 56 მონაწილის 700-ზე მეტი ამოცანის ჟურნალი.

პროექტის შედეგია Atria Dawn Preview, აგენტური ენის მოდელი mixture-of-experts არქიტექტურითა და 744 მილიარდი პარამეტრით. ყოველი სასწავლო ამოცანა რეალურ გარემოსთანაა მიბმული და ტესტებით, მეტრიკებითა და წყაროებით მოწმდება. გუნდის თქმით, მოდელი 16 ბენჩმარკიდან ხუთში ლიდერობს, მათ შორის ვებძიებასა და კიბერუსაფრთხოებაში, საერთო უპირატესობის გარეშე.

აგენტები მეტ საქმეს ითავსებენ

განხილული ამოცანების 96,5%-ში AI გამოიყენეს. ოთხ კვირაში აგენტის მოქმედებათა რაოდენობა ადამიანის ერთ მითითებაზე მედიანურად 11-დან 28,5-მდე გაიზარდა, თუმცა გუნდი აფრთხილებს, ეს ავტონომიის ზრდად არ უნდა გავიგოთ: ადამიანის ყოველი გადაწყვეტილება უბრალოდ მეტ აგენტურ ნაბიჯს იწვევდა.

მონაწილეებმა ისიც შეაფასეს, შეძლებდნენ თუ არა საკუთარი წილის შესრულებას AI-ის გარეშე. AI-ით დასრულებული 455 ამოცანიდან 151, დაახლოებით მესამედი, მის გარეშე შეუძლებლად მიიჩნიეს; ისინი 56 მონაწილიდან 27-ზე გადანაწილდა. AI-მ შესაძლებელი გახადა საქმე, რომელიც სხვაგვარად არასოდეს დაწყებულიყო.

AI სთავაზობს, ადამიანი ირჩევს

მეთოდებსა და პარამეტრებზე ყველაზე გავრცელებული სქემა „AI სთავაზობს, ადამიანი ირჩევს“ იყო: შემთხვევათა 55,4%. გადაწყვეტილებების 85,5% ამ საკითხებზე ადამიანებმა მიიღეს, AI-მ მხოლოდ 9,2%, მიზნებსა და მასშტაბზე კი საბოლოო სიტყვა შემთხვევათა 93,4%-ში მათ ეკუთვნოდათ.

იგივე ჩანს მაშინაც, როცა რაღაც ფუჭდება. სირთულის დაფიქსირებული 588 ამოცანიდან 76% ადამიანის ჩარევის შემდეგ განაგრძობდა წინსვლას, 23% კი აგენტმა დამოუკიდებლად გადაჭრა; დახმარება ძირითადად კონტექსტის დამატება (35,2%) ან დიაგნოსტიკა (34,7%) იყო, და არა ხელით შესრულებული საქმე.

ფორმალური დამტკიცების რისკი

როცა ყოველი გადაწყვეტილება იმაზე გრძელ აგენტური მუშაობის ჯაჭვს ეყრდნობა, ვიდრე ადამიანს გადამოწმება შეუძლია, ზედამხედველობა ძნელდება; უარეს შემთხვევაში ადამიანები მიმომხილველებად იქცევიან, რომლებსაც მხოლოდ ნანახის ფორმალური დამტკიცება შეუძლიათ, წერენ ავტორები. ბევრი მონაწილე აგენტებს ავტონომიურ რეჟიმშიც უშვებდა: მოხერხებულობის გამო და არა AI-ის უფლებამოსილების გააზრებული არჩევანით.

ნაშრომი რეკურსიული თვითგაუმჯობესების დებატების ფონზე გამოქვეყნდა: Anthropic მიიჩნევს, რომ AI, რომელიც საკუთარ მემკვიდრეს ქმნის, მოსალოდნელზე ადრე შეიძლება გახდეს შესაძლებელი, კომპანიის CEO დარიო ამოდეი კი ინდუსტრიისთვის სიჩქარის შეზღუდვას ითხოვს, წამყვანი AI კომპანიების ათასზე მეტი თანამშრომელი კი აფრთხილებს, რომ მათი ორგანიზაციები AI კვლევის ავტომატიზაციის ზღვარზე არიან.