Prime Intellect تعيد كتابة Prime Agent بلغة Rust وتخفض زمن التشغيل البارد إلى 52 مللي ثانية

الوكلاء يعيدون كتابة الوكلاء

أعادت Prime Intellect كتابة ترميز Prime Agent الخاص بها بالكامل بلغة Rust. بعد إصداره في أغسطس، تم تنزيل Prime Agent أكثر من 300000 مرة ومعالجة أكثر من 8 تريليون رمز. نفّذت عملية إعادة الكتابة Prime Agent نفسه في الأساس: على مدى أكثر من أسبوعين، نقلت مجموعة من أكثر من 2000 وكيل قاعدة الشيفرة من البداية إلى النهاية، وعملت في أكثر من 10000 Prime Sandbox واستهلكت أكثر من 200 مليار رمز من نقطة نهاية GLM-5.3 الخاصة بـ Prime Inference.

في مرحلة التنفيذ على Rust، أنفق 1981 وكيل 192,99 مليار رمز، أعقبها دورة تحسين الكفاءة التي استهلكت 35,70 مليار رمز بمشاركة 228 وكيل. في ذروة العملية، شارك 2209 وكلاء، تبادلوا 16758 رسالة فيما بينهم ومعالجوا ما مجموعه 228,70 مليار رمز.

لماذا Rust

وفقًا للفريق، ظهر Prime Agent بسرعة بمساعدة TypeScript، لكن أنواعه غير الإلزامية تختفي عند التشغيل، وتتحرك الأخطاء كاستثناءات غير مفحوصة، ويتنافس العمل الشاق على وحدة المعالجة المركزية مع البيانات القادمة من لوحة المفاتيح على نفس حلقة الأحداث. يحل Rust هذه المشاكل: الشيفرة الأصلية بدون جامع القمامة هي السبب الرئيسي لتحسين سرعة الذاكرة والتشغيل، وتمنح السمات Send وSync المترجم القدرة على التحقق من البيانات التي يمكن نقلها بين الخيوط، بينما تستبعد التعدادات الشاملة والملكية وفترات الحياة فئات كاملة من الأخطاء قبل تشغيل الشيفرة. وتضيف فحوصات Clippy الدقيقة مئات عمليات التحقق الإضافية، وهو أمر مهم بشكل خاص عندما يكتب الوكلاء معظم الشيفرة.

البنية والتكافؤ

عند إعادة الكتابة، تم تحويل قاعدة الشيفرة إلى تسعة صناديق (crate) مع رسم بياني للاعتماديات المتبادلة يتحكم فيها Cargo. أصبح أكبر ملف مصدر الآن حوالي 2500 سطر، بدلاً من حوالي 15000 في TypeScript، ولا يتجاوز أي ملف 5000 سطر، بينما كان هناك أربعة ملفات من هذا النوع في النسخة الأصلية. أضاف الفريق دعم Windows، وعزل تعطل الجلسات، وبروتوكول ديمون أكثر اتساقًا؛ تعمل كل جلسة في عملية عاملة خاصة بها تحت إشراف مشرف صغير.

لضمان تكافؤ الوظائف، أجرى الوكلاء أربعة أنواع من الاختبارات: اختبارات تكافؤ واجهة المستخدم النصية التي تقارن إطارات الطرفية بين ثنائيات TypeScript وRust، واختبارات تكافؤ الترميز التي تقارن نصوص الجلسات وطلبات النموذج، وفحوصات تكافؤ البروتوكول على جميع أنواع رسائل الديمون، وتدقيق وظيفي مكون بمكون. مرت كل مهمة بأربعة وكلاء: المخطط والمنفذ والمراجع الذي يستخدم نموذجًا آخر في سياق منفصل، والمتحقق الذي يجري فحوصات التكافؤ في بيئة معزولة جديدة.

نتائج الكفاءة

سجلت دورة التسلق التي استمرت ثلاثة أيام أكثر من 144 تجربة وسجل تدقيق، ودمجت أكثر من 69 تغييرًا صالحًا. انخفض زمن الاستعداد للإدخال أثناء التشغيل البارد من 736,1 ms إلى 51,9 ms، وهو تحسن بمقدار 14,18 مرة، بينما انخفض زمن التشغيل الدافئ من 552,3 ms إلى 41,4 ms. انخفض استهلاك الذاكرة في الجلسة الكبيرة من 1130,0 MB إلى 237,3 MB، والحجم المثبت من 172,1 MB إلى 59,6 MB. مقارنة بالترميزات الخارجية، حقق Prime Agent Rust أول ناتج في 23,6 ms وزمن بدء الالتقاط في الوضع البارد 55,8 ms، بدلاً من 722,8 ms و737,8 ms في نسخة TypeScript.

ما التالي

يظل Prime Agent مشروع شيفرة مفتوحة ويُثبت بأمر واحد؛ وتجلب النسخة المعاد كتابتها دعمًا أصليًا لنظام Windows وتثبيتًا عبر Homebrew في وضع بيتا. وفقًا لـ Prime Intellect، تسرع الشركة الآن تطوير الوظائف والتقييمات، وتجعل عمليات العمل متعددة الوكلاء القائمة على إعادة الكتابة متاحة للمستخدمين، وتعمق التكامل مع منظومة Prime Intellect، بما في ذلك مجموعات الوكلاء السحابية والاستدلال والآثار والبيئات المعزولة والتقييمات والتدريب المستضاف. تبحث الشركة أيضًا عن موظفين جدد.

المصادر: primeintellect.ai