لماذا لم تنضم OpenAI إلى مبادرة NVIDIA لأمان وكلاء AI

قدمت NVIDIA في 28 سبتمبر، يوم الاثنين، كونسورسيوم جديدًا انضمت إليه أكثر من 100 شركة. تهدف Open Agent Safety Platform إلى حل مشكلة وكلاء AI غير الخاضعين للسيطرة، لكن OpenAI لا تظهر في قائمة الداعمين.

وفقًا لـ TechCrunch، ليست OpenAI الوحيدة: فلم تنضم إلى المبادرة أيضًا Amazon وGoogle وApple. لكن الاهتمام انجذب تحديدًا إلى غياب OpenAI، لأن الكونسورسيوم يحظى بدعم Anthropic، المنافس الرئيسي للشركة. وقال ممثل OpenAI للصحيفة إن الشركة ما زالت تدعم عمل NVIDIA.

ماذا تشمل المنصة

تهدف NVIDIA إلى نشر تقنيتها، وهي أساسًا مفتوحة المصدر، في منظومة AI بأكملها. الجزء الرئيسي من المنصة هو OpenShell: برنامج مفتوح المصدر ينشئ بيئة معزولة ولا يسمح للوكلاء بالهروب منها.

على مستوى العتاد، يتحكم NVIDIA Sentry في سلوك الوكلاء. هذه تقنية مغلقة خاصة بالشركة، تعمل على معالجات من نوع BlueField-4، وتراقب سلوك الوكلاء باستمرار وتوقفهم فورًا عند الحاجة. بحسب NVIDIA، لا يلاحظ الوكلاء أنهم مراقبون.

أعربت Arm وIntel أيضًا، وهما منافستان لـ NVIDIA، عن دعمهما، لأن OpenShell يمكن تشغيله على شرائح أخرى. لكن النظام الكامل يعمل فقط على عتاد NVIDIA، لأن Sentry يبقى مغلقًا.

يعتبر الرئيس التنفيذي لـ NVIDIA، جنسن هوانغ، أن AI غير الخاضع للسيطرة مشكلة هندسية عادية تُحل على غرار التحديات التقنية الأخرى.

لماذا لم تنضم OpenAI إلى الكونسورسيوم

غياب الدعم العلني لا يعني أن OpenAI تقف خارج هذا النظام. تعمل الشركة مع NVIDIA على أمان الوكلاء، ويشارك OpenShell أيضًا في هذه العملية.

كتب مؤسس Hugging Face ومديرها كليم ديلانغ، وهي الشركة التي اشترتها NVIDIA في بداية سبتمبر مقابل 12,9 مليار دولار، على X أنه لو استخدمت OpenAI هذه التقنية مع وكلائها، لكانت لاحظت الهجوم على Hugging Face أبكر.

أضافت Hugging Face بالفعل إلى المنصة ميزة توقف الوكلاء عندما يستخدمون مواقع مسموحًا بها بطريقة غير مصرح بها، مثل ترك تعليقات لبعضهم البعض في مستودع مفتوح المصدر وتنسيق هجوم.

طريق OpenAI الخاص

بحسب تقييم TechCrunch، الأمان فرصة لـ OpenAI لتحقيق الاستقلال أيضًا. تطور الشركة آليات حماية خاصة بها وتنشر أخطر الحوادث علنًا. إضافة إلى ذلك، لدى OpenAI كونسورسيوم خاص بها للأمن السيبراني، Defense Factory، يدعمه Anthropic وAWS وGoogle. كما تحول الشركة الأمن السيبراني إلى عرض مؤسسي، بما في ذلك نموذج Daybreak وشبكة شركاء.