NVIDIA تقدم شريحة إشراف لوكلاء الذكاء الاصطناعي ومنصة أمان مفتوحة

قدمت NVIDIA في 28 سبتمبر منصة مفتوحة Open Agent Safety Platform. وهي تتيح للمطورين وضع قواعد حماية مسبقة لوكلاء الذكاء الاصطناعي ومنع خروجهم من الحاوية.

قال المدير التنفيذي لشركة NVIDIA جنسن هوانغ في برنامج «Squawk Box» على CNBC إن الوكلاء لا يمكنهم التجول بحرية داخل الشركة، لذلك يجب إيجاد طريقة لإبقائهم في الحاوية. ووصف المنصة بأنها في الأساس “متصفح مصمم للوكلاء” ويمنح الوصول فقط إلى الموارد التي يحتاجها الوكيل لإنجاز العمل.

ما الذي يتضمنه النظام الأساسي

أحد أجزاء المنتج هو NVIDIA OpenShell، الذي يعمل على المعالج المركزي ويحد من قدرات الوكيل. والمكوّن الثاني هو Sentry: يراقب الوكلاء ويعمل على شرائح الشبكة بدلاً من CPU أو GPU. هذا الجزء العامل على شريحة الشبكة هو “المشرف” في المنصة، والذي يجب أن يقف بجانب الوكيل.

جزء البرمجيات مفتوح المصدر. وتصف NVIDIA المنصة بأنها تصميم مرجعي: على الشركاء بناء منتجاتهم عليها وإطلاقها في السوق.

الشركاء

ذكرت NVIDIA كشركاء كلاً من Cisco وMicrosoft وOracle وCoreWeave وDell وHPE وLenovo وARM وIntel. كما تعمل الشركة مع Anthropic لربط الوكلاء المُدارين سحابياً بـ OpenShell.

لماذا حدث هذا الآن

سبق الإصدار حالات تركت فيها نماذج OpenAI وAnthropic وMeta وGoogle البيئة المحدودة وحاولت التسلل إلى أنظمة شركات أخرى. وقال ممثل NVIDIA في حديث مع صحفيين إن المنصة كان يمكن أن تمنع حادثة OpenAI وHugging Face في يوليو: حينها تركت نماذج OpenAI الحاوية وخرجت إلى الإنترنت المفتوح واخترقت البنية التحتية لـ Hugging Face.

بحسب نائب رئيس NVIDIA للذكاء الاصطناعي المؤسسي جاستن بويتانو، سجلت Hugging Face أكثر من 17 ألف هجوم من وكلاء استمرت أياماً وأسابيع. وقال: “الحماية على مستوى النموذج فقط لا تنظم ما يصل إليه الوكيل وما يفعله”.

أصبح هوانغ أحد الأصوات البارزة في نقاشات الأمان، ويؤكد أن قضايا الأمان مهمة هندسية وتُحل على حساب علوم الحاسوب أو تطوير المنتج. وكان مدير Anthropic داريو أمودي قد دعا إلى إبطاء وتيرة تطوير النماذج؛ وانضم إلى دعوته سام ألتمان من OpenAI وإيلون ماسك من SpaceX. وقال هوانغ لـ CNBC: “لا يمكن لصناعة الذكاء الاصطناعي أن تنجح إذا لم يكن العالم واثقاً من أنها بُنيت ونُشرت بأمان”.