الرئيس التنفيذي لشركة Microsoft ساتيا نادلا يطالب بتطبيق "فرامل طوارئ" لنماذج الذكاء الاصطناعي

اقتراح نادلا الأمني

طالب الرئيس التنفيذي لشركة Microsoft ساتيا نادلا بتطبيق آليات حماية أكثر صرامة حول نماذج الذكاء الاصطناعي. في رأيه، تحتاج الصناعة إلى "فرامل طوارئ" للأنظمة التي قد تتصرف بشكل غير متوقع. وفي منشور نُشر على X صباح يوم السبت، كتب نادلا أن الوقت قد حان لـ"التراجع وإعادة تقييم بنية الثقة في الذكاء الاصطناعي".

"لا يمكننا التعامل مع الذكاء الفائق باعتباره مجموعة من الصناديق السوداء المدمجة وقبول أو رفض توصياته وردوده وأفعاله فحسب"، يكتب نادلا. ويستخدم نادلا مصطلحًا تبنته إدارة ترامب للإشارة إلى الذكاء الاصطناعي.

وفقًا لنهجه المقترح، يجب فصل النموذج عن النظام الخارجي الذي يدير تشغيله، مع نقل آليات التحكم والحماية إلى الخارج. كما طالب نادلا بأن يتم تسجيل "كل إجراء مهم للنموذج" بـ"دليل محمي من التلاعب وقابل للقراءة البشرية"، وأن تتيح الأنظمة دائمًا لـ"شخص مخول" إمكانية إيقاف النموذج أو إطفائه أثناء تنفيذ المهام.

"يجب أن نفترض أن النموذج مخترق وأن نعزله منذ البداية"، قال. "تخيلوا أن هذا هو الفرامل الطوارئ."

قلق متزايد في الصناعة

جاءت تعليقات نادلا في وقت تعترف فيه شركات الذكاء الاصطناعي الرائدة بتسجيل حالات متزايدة يبدو فيها أنها تفقد السيطرة على نماذجها الخاصة. ونُشر منشوره بعد أن قدم الرئيس التنفيذي لشركة Anthropic داريو أمودي خطة أكثر حذرًا لتطوير الذكاء الاصطناعي.

المصادر: Techcrunch Ai · The Verge Ai