OpenAI تفرض قيودا أشد على المراهقين الذين يسألون عن الأسلحة

قالت OpenAI إنها تضيف قيودا أشد على المعلومات المتعلقة بالأسلحة التي يمكن للمراهقين تلقيها من ChatGPT، بما في ذلك الأسئلة التي تبدو غير ضارة. وقالت الشركة إن التغييرات تهدف إلى تقليل مخاطر إساءة الاستخدام بشكل أكبر، مع إبقاء إمكانية الوصول إلى الدعم وخفض التصعيد والمساعدة في التواصل مع بالغ موثوق.

ما الذي يتغير للمراهقين

قالت OpenAI إن لديها سياسات بالفعل تمنع ChatGPT من مساعدة المستخدمين على تنفيذ أعمال عنيفة أو مساعدة المراهقين على الحصول على أسلحة. بموجب القيود الجديدة، ستقيد الشركة المعلومات العملية عن الأسلحة والأنظمة الأمنية التي يمكن إساءة استخدامها لتسهيل العنف، حتى عندما لا توجد إشارة إلى نية عنيفة. سيظل بإمكان المراهقين استخدام ChatGPT لمنع العنف أو خفض تصعيده، أو طلب الدعم، أو التواصل مع بالغ موثوق.

حدود السياسة الأشمل

قالت الشركة إنها تشدد أيضا حدود السياسة لجميع المستخدمين. تنطبق تلك الحدود بشكل خاص على طلبات إعادة بناء هجمات جماعية سابقة، بما في ذلك تفاصيل عن الأسلحة والمعدات المستخدمة وكيفية الحصول عليها، إضافة إلى مقارنات مفصلة حول حجم الأذى التي يمكن أن تضخم شهرة المهاجم.

الرقابة الأبوية وسياق السلامة

ستعمل القيود جنبا إلى جنب مع عناصر الرقابة الأبوية التي وضعتها OpenAI العام الماضي. ترسل تلك العناصر إشعارات إلى الآباء إذا خالفت حسابات المراهقين المرتبطة سياسات ChatGPT المتعلقة بالتهديدات العنيفة أو أعمال العنف. قالت OpenAI إن الضمانات الإضافية تأتي بعد دعوى وفاة ناجمة عن الإهمال ضد الشركة العام الماضي واعتذار الرئيس التنفيذي Sam Altman علنا لعدم إبلاغ الشرطة بسجلات محادثة مثيرة للقلق متعلقة بحادثة إطلاق نار في Tumbler Ridge في وقت سابق من هذا العام.

المستقبل

قالت OpenAI إنها ستنشر أول تقرير سلامة مجتمعية في أوائل عام 2027، مع تحديثات كل ستة أشهر بعد ذلك.

المصادر: Engadget