Anthropic وAccenture تتشاركان في تقييم نماذج الذكاء الاصطناعي من الداخل

ما الذي حدث

أعلنت شركة Anthropic عن شراكة مع Accenture لتقييم مستقل لنماذج الذكاء الاصطناعي المتقدمة. ستقود العمل وحدة Faculty المتخصصة في الذكاء الاصطناعي داخل Accenture، ويشمل تقييم النماذج واختبارات الفريق الأحمر (red teaming) ومراجعات المواءمة (alignment) واختبار ضوابط حماية النماذج.

لماذا يهم ذلك

تقوم الفكرة على «التقييم المُدمج»: يعمل المقيّمون داخل شركة الذكاء الاصطناعي بصلاحيات مماثلة لصلاحيات الموظفين. يتيح ذلك لهم متابعة كيفية تشكّل النموذج أثناء التدريب، وتتبع القرارات المتعلقة ببنائه ونشره، والتحدث مباشرة إلى الموظفين. ومن هذا الموقع يمكنهم التحقق من التزام الشركة بتعهدات السلامة وكشف النقاط العمياء.

التمويل والأسئلة المفتوحة

تتوقع الشركتان استثمار مليار دولار على الأقل لكل منهما على مدى السنوات الخمس المقبلة. إلا أنه لا توجد بعد معايير لما ينبغي أن يطّلع عليه المقيّمون المدمجون أو لكيفية إبلاغهم عن النتائج. تقول Anthropic إنها ستموّل عمل Accenture مباشرة، لكنها ترى أن التمويل على المدى الطويل يجب أن يأتي من مصادر مشتركة أو حكومية. والشراكة غير حصرية: إذ تجري الشركة محادثات مع METR ومقيّمين غير ربحيين آخرين.

📖 المصدر