
OpenAI يطلق مصنف صور CSAM وتحذيرات ChatGPT
أعلنت OpenAI عن أدوات جديدة لمكافحة مواد الاعتداء الجنسي على الأطفال في ظل مخاوف متزايدة بشأن سلامة استخدام أدوات الذكاء الاصطناعي، بما في ذلك مصنف صور CSAM، وتحذيرات وحظر مؤقت في ChatGPT، وإرشادات للمطورين، وأدوات لإنفاذ القانون.
أعلنت OpenAI عن أدوات جديدة لمكافحة مواد الاعتداء الجنسي على الأطفال (CSAM)، في ظل مخاوف متزايدة بشأن سلامة استخدام أدوات الذكاء الاصطناعي. تشمل الميزات مصنفا جديدا للصور للكشف عن CSAM، وتحذيرات وحظر مؤقت في ChatGPT، وإرشادا جديدا للمطورين، وأدوات لإنفاذ القانون. وقالت الشركة إن المصنف يمكنه الكشف عن صور CSAM، بما في ذلك الصور المولدة بالذكاء الاصطناعي، وأنه يُشارك مع شركات مختارة عبر واجهة برمجة التطبيقات (API) من دون تكلفة.
مصنف صور جديد
أطلقت OpenAI مصنفا للصور يبحث عن علامات بصرية للإساءة في صور لم تُشاهد من قبل، ويمنح درجة يمكن أن تقدم للمراجعين اتجاها إرشاديا. وقالت الشركة إنها طورت المصنف مع National Center for Missing and Exploited Children (NCMEC)، وتتعاون مع Tech Coalition وROOST لمشاركة الوصول إلى الأداة. في اختبارات مبكرة مع الشركاء، وضع المصنف علامة على عدد أقل من الصور بنسبة 48% مع العثور على العدد نفسه من الصور المسيئة، مما خفّض عمل المراجعين. كانت الصور التي وضع المصنف عليها علامة أكثر احتمالا بمرتين لأن تكون صورا مسيئة.
تحذيرات وحظر في ChatGPT
تضيف OpenAI شاشات تحذير في ChatGPT لمنع المستخدمين من الوصول إلى مواد تجنس الأطفال. وسيعرض ChatGPT تنبيها للمستخدمين الذين يحاولون مثل هذه المطالبات، ويدلهم إلى دعم متخصص لوقف السلوك الضار، ويعلق الحساب لمدة 24 ساعة كتحذير. ويحظر التطبيق بالفعل محتوى CSAM والطلبات ذات الصلة، وقد تؤدي المخالفات المتكررة إلى إزالة الحساب نهائيا. وقالت OpenAI إنها وضعت الرسالة والإرشادات مع منظمات وبحاث، بما في ذلك Protect Children، وLucy Faithfull Foundation، وJoel Scanlan في University of Tasmania، الذين قيموا بشكل مستقل تجربة رسائل الردع.
أدوات المطورين وإنفاذ القانون
تنشر OpenAI إرشادات للمطورين الذين يستخدمون أدواتها لمنع CSAM والكشف عنه ومساعدة المستخدمين على الإبلاغ عن محتوى CSAM. في اختبارات مبكرة، ساعدت الإرشادات عددا من المطورين على اعتماد أدوات سلامة الأطفال والتسجيل للإبلاغ عن CSAM إلى NCMEC. كما تجهز الشركة إنفاذ القانون بميزات مدعومة بالذكاء الاصطناعي، مثل إضافات مخصصة، وأدوات تحقيق، وتحليل بيانات معقد. ويُدار الوصول بواسطة مديري البرنامج. كما تقدم تدريبا للمحققين مع دليل ميداني حول كيفية استخدام الذكاء الاصطناعي.
الخلفية والتغييرات الأخيرة
واجهت OpenAI عدة دعاوى قضائية تلوم تقنيتها في إلحاق الضرر بالمستخدمين، خاصة الأطفال. وصنفت منظمة Common Sense Media غير الربحية والموجهة للسلامة تقنية OpenAI بأنها "مخاطر غير مقبولة" للمراهقين. واستُخدمت روبوتات دردشة ذكاء اصطناعي أخرى، وبشكل خاص Grok، لإنشاء صور جنسية بدون موافقة، بما في ذلك صور أطفال. وقالت OpenAI إنها أجرت تغييرات في الـ12 شهرا الأخيرة، بما في ذلك إصدار مخطط سلامة، وتحديث إرشادات المحتوى لحظر المحتوى غير المناسب، وإعادة ضبط نموذجها لمنعه من إنشاء محتوى ضار، وإصدار نسخة خاصة من ChatGPT للمراهقين.
المصادر: TechCrunch
SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي
نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.