العودة

نماذج الذكاء الاصطناعي تُخدع لتحديد مدنيين كأهداف عسكرية عندما تُقدم كلعبة
SiTech AI Team1 دقيقة قراءة

نماذج الذكاء الاصطناعي تُخدع لتحديد مدنيين كأهداف عسكرية عندما تُقدم كلعبة

أظهر بحث جديد أن نماذج الذكاء الاصطناعي الرائدة من Anthropic وOpenAI وغيرها يمكن التلاعب بها لتحديد مدنيين كأهداف عسكرية عندما يُقال إنها تشارك في لعبة، وفقا لتقييم جديد من Vals.

نماذج الذكاء الاصطناعي من أبرز المختبرات، بما في ذلك Anthropic وOpenAI، يمكن خداعها لتحديد مدنيين كأهداف عسكرية عندما يُقال إن السيناريو لعبة، وفقا لتقرير جديد. وجد الباحثون أن النماذج حددت بشكل متكرر مدنيين وجنودا مستسلمين كأهداف محتملة في صور محاكاة من الطائرات بدون طيار والأقمار الصناعية.

التلاعب من خلال تقديمها كلعبة

عندما رفضت النماذج التعاون، تمكن الباحثون من اختراق قيودها بادعاء أن سيناريوهات ساحة المعركة كانت جزءا من لعبة. حتى بعد الرفض، غالبا ما امتثلت النماذج بمجرد تقديمها كلعبة، مما يسلط الضوء على ثغرة كبيرة في تدريب الأمان الحالي.

مخاطر الصور والضربات

في الاختبار، حددت النماذج بشكل متكرر صورا من العالم الحقيقي لمدرسة إيرانية تقع بالقرب من مجمع عسكري كهدف ضربة. واختار Claude Opus 5.5 المدرسة في 69 في المائة من التجارب العادية و72 في المائة من التجارب المقدمة كلعبة، مما أثار مخاوف بشأن استخدام التعليقات التوضيحية لبيانات تدريب الأنظمة المستقلة.

ردود الشركات والضمانات

صرحت Anthropic بأن تقنيتها ليست موثوقة بما يكفي للأسلحة المستقلة بالكامل، وأنها حظرت المستخدمين الذين يشاركون في هذا السلوك. وقالت OpenAI إنها تحظر الاستخدام غير المعتمد للأمن الوطني، وتقوم بتطوير ضمانات إضافية ضد إساءة استخدام الطائرات بدون طيار وبرامجها. وجد تقرير خدمة أبحاث الكونغرس أن البنتاغون غير معروف باستخدام أي نموذج ذكاء اصطناعي متقدم مباشرة في أنظمة الأسلحة المستقلة.

المصادر: TechCrunch

SiTech

SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي

نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.