مايكروسوفت تصوّر وكلاء الذكاء الاصطناعي كتهديدات داخلية في دفعة جديدة لأمن المؤسسات

مايكروسوفت تعيد تصور مخاطر الذكاء الاصطناعي في المؤسسات

قدّمت مايكروسوفت يوم الاثنين ميزات أمنية تهدف إلى حماية المؤسسات من وكلاء الذكاء الاصطناعي، إذ تجادل الشركة بأن نماذج الحدود الأمامية لا يمكن الوثوق بها للتصرف ضمن المعايير التنظيمية. ويوسع الإطلاق مشروع Project Perception، الذي أُطلق في يونيو، والذي نظّم في الأصل الوكلاء في فريق أحمر يهاجم، وفريق أزرق يكتشف الثغرات ويقيمها، وفريق أخضر يصلحها.

قالت رئيسة أعمال الأمن في مايكروسوفت Hayete Gallot إن نماذج الحدود الأمامية، بغض النظر عن مصدرها، ليست بالضرورة خبيثة أو سهلة القرصنة، لكنها غير متوقعة لأنها مدربة على تحقيق المهام بدلاً من اتباع الحكم. وقالت إن المؤسسات غالبًا ما تمنح الوكلاء وصولاً إلى بيانات حساسة وأدوات يمكن أن تسبب ضررًا جسيمًا.

Guardian Agents واكتشاف Defender

تهدف ميزة Guardian Agents الجديدة إلى مراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم الشركة. وأضافت مايكروسوفت أيضًا اكتشاف الوكلاء إلى Microsoft Defender الذي يمكنه العثور على ما يصل إلى 60 نوعًا من الوكلاء التي يجلبها الموظفون إلى مكان العمل، بما في ذلك Claude Code وCodex وOpenClaw.

قالت مايكروسوفت إنها تضيف ضوابط تحد من وصول الوكلاء إلى البيانات والأنظمة، وتعدّل الأذونات ديناميكيًا حسب المهمة، وتتطلب موافقة بشرية عندما يبدو أن وكيلًا يتخذ قرارات محفوفة بالمخاطر.

فصل الذكاء عن السلطة

حذر الرئيس التنفيذي لمايكروسوفت Satya Nadella من أن عدو الذكاء الاصطناعي قد يكون الوكلاء أنفسهم الذين تنشرهم المؤسسات وتدفع لهم، مقارنًا إياهم بموظف بشري مارق أو تهديد داخلي. وفي مقال مدونة خاص في وقت سابق من هذا الشهر، قال إن تأكيدات مقدمي النماذج لا تعفي المؤسسات من المسؤولية عما يفعله الذكاء نيابة عنها، مضيفًا أن توفير الذكاء يجب أن يُفصل عن السلطة عليه.

كانت مايكروسوفت عضوًا مؤسسًا في منصة Nvidia المفتوحة لأمان الوكلاء Open Agent Safety Platform، التي تدعمها أكثر من 100 شركة تقنية أخرى. وتعزل المنصة الوكلاء في بيئات آمنة ويمكنها مراقبة السلوك وإيقافه عبر الأجهزة. وتأتي هذه الخطوة بعد إعلان مايكروسوفت عن أجهزة Surface Laptop Ultra المصممة للوكلاء، والتي تعمل برقائق Nvidia مع تضمين أمان الوكلاء وضوابطهم.

المصادر: TechCrunch