وكلاء الذكاء الاصطناعي ينجزون مزيداً من العمل في تطوير النماذج، لكن القرارات تبقى بيد البشر

درس باحثون من جامعة فودان في الصين مشروعهم الخاص لمعرفة من يتخذ القرارات فعلاً عندما يساعد وكلاء الذكاء الاصطناعي في بناء نموذج، وحللوا أكثر من 700 سجل مهمة من 56 مشاركاً.

أسفر المشروع عن نموذج Atria Dawn Preview، وهو نموذج لغوي وكيلي بمعمارية mixture-of-experts يضم 744 مليار معامل. ترتبط كل مهمة تدريبية ببيئة تنفيذ حقيقية وتُفحص بالاختبارات أو المقاييس أو الأدلة من المصادر. ويقول الفريق إن النموذج يتصدر خمسة من 16 اختبار قياس، بينها البحث على الويب والأمن السيبراني، لكن دون تفوق عام على المنافسين.

الوكلاء يتولون المزيد من العمل

استُخدم الذكاء الاصطناعي في 96.5% من المهام التي جرى مراجعتها. وخلال أربعة أسابيع ارتفع الوسيط لعدد إجراءات الوكيل لكل مدخل بشري من 11 إلى 28.5، ويحذر الفريق من قراءة ذلك كتزايد في الاستقلالية: فكل قرار بشري كان يحرّك مزيداً من خطوات الوكيل.

وقيّم المشاركون أيضاً إن كانوا سيقدرون على إنجاز نصيبهم من المهمة دون الذكاء الاصطناعي. من أصل 455 مهمة أُنجزت بمساعدته، صُنفت 151 مهمة، أي نحو الثلث، مستحيلة دونه، وتوزعت على 27 من 56 مشاركاً. وقد جعل الذكاء الاصطناعي ممكناً عملاً لم يكن ليبدأ أصلاً.

الذكاء الاصطناعي يقترح والبشر يختارون

في الأساليب والمعاملات، كان النمط الأكثر شيوعاً "الذكاء الاصطناعي يقترح، والبشر يختارون"، بنسبة 55.4%. اتخذ البشر 85.5% من هذه القرارات مقابل 9.2% للذكاء الاصطناعي، وكانت الكلمة الأخيرة في الأهداف والنطاق لهم في 93.4% من الحالات.

ويظهر النمط نفسه عندما تسوء الأمور. من أصل 588 مهمة سُجلت فيها صعوبات، تقدمت 76% منها بتدخل بشري وحُلّت 23% بيد الوكيل وحده؛ وجاءت المساعدة غالباً على شكل سياق إضافي (35.2%) أو تشخيص (34.7%) لا عملاً يدوياً.

خطر المصادقة الشكلية

عندما يستند كل قرار إلى سلسلة عمل وكلاء أطول مما يستطيع أي إنسان مراجعتها، يصبح الإشراف صعباً؛ وفي أسوأ الحالات يتحول البشر إلى مراجعين لا يقدرون إلا على المصادقة الشكلية على ما يرون، كما يكتب الفريق. وشغّل كثير من المشاركين الوكلاء في أوضاع مستقلة للراحة، لا بوصفه خياراً مدروساً في مقدار سلطة الذكاء الاصطناعي.

تأتي الورقة في خضم نقاش حول التحسين الذاتي التكراري: ترى Anthropic أن ذكاءً اصطناعياً يطوّر خليفته قد يصبح ممكناً أسرع من المتوقع، ويدعو مديرها التنفيذي داريو أمودي إلى وضع حد للسرعة في القطاع، فيما حذر أكثر من ألف موظف في شركات الذكاء الاصطناعي الرائدة من أن مؤسساتهم قد تكون على وشك أتمتة أبحاث الذكاء الاصطناعي.