OpenAI ستضع علامة مائية تلقائيًا على نصوص ChatGPT في الاتحاد الأوروبي

أعلنت OpenAI أنها ستبدأ في وضع علامة مائية تلقائيًا على النصوص المولدة بواسطة ChatGPT في الاتحاد الأوروبي. ستكون الميزة متاحة في مناطق أخرى أيضًا، لكنها ستبقى معطلة افتراضيًا خارج الاتحاد الأوروبي.

الامتثال لمتطلبات قانون الذكاء الاصطناعي في الاتحاد الأوروبي

تفرض هذه الخطوة في أوروبا قانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي دخل حيز التنفيذ في أغسطس. يتطلب القانون أن يُشار إلى المحتوى الذي أنشأته نماذج الذكاء الاصطناعي بطريقة تسمح لأدوات أخرى باكتشافه. وفقًا لـ OpenAI، سيتم توفير العلامة المائية الجديدة لمستخدمي الاتحاد الأوروبي في الأسابيع المقبلة، على الأقل في تطبيقات ChatGPT وCodex. ستبقى الميزة معطلة في API، لكنها ستكون متاحة عند الطلب.

كيف يعمل textGrain

طريقة وضع العلامة المائية لدى OpenAI هي ملكية خاصة بالشركة. تسميها الشركة textGrain ونشرت ورقة تقنية تشرح كيفية عملها. بشكل عام، تعمل بشكل مشابه لأدوات وضع العلامة المائية في النماذج اللغوية الكبيرة الأخرى: تُدرج أنماطًا في اختيار الكلمات تكون غير محسوسة للقارئ البشري ولا تغير جودة النتيجة بشكل كبير، لكن الشخص الذي يملك المفتاح يمكنه العثور عليها باستخدام كاشف متخصص. وفقًا لـ OpenAI، ستمنح الوصول إلى الكاشف لعدد محدود من الباحثين والمنظمات، بينما سيُضاف للآخرين بمرور الوقت عملية طلب التحقق.

قيود الاكتشاف

تُظهر اختبارات OpenAI لـ textGrain أن معدل الاكتشاف الناجح في أفضل الحالات هو 92%، وهو أمر جيد إلى حد ما، لكنه ليس موثوقًا بالكامل. تُظهر اختبارات الشركة أيضًا أن تغيير 10% فقط من النص الناتج يقلل معدل الاكتشاف الناجح بنحو 30%، بينما قد يؤدي تغيير 20% من النص إلى خفض معدل النجاح بنحو 75%. بشكل عام، يكون معدل النجاح أقل في النصوص القصيرة أو المترجمة مقارنة بالنصوص الطويلة.

سياق الصناعة

لا توجد حتى الآن طريقة فعالة وموثوقة بالكامل لاكتشاف المحتوى المولّد بالذكاء الاصطناعي. توجد بالفعل عدة معايير، مثل SynthID ومشروع C2PA، لكن تجاوزها أمر سهل نسبيًا لأي شخص لديه معرفة أساسية، ومن المحتمل أن ينطبق الشيء نفسه على علامة OpenAI المائية. في أغسطس، أطلقت Anthropic المنافسة لـ OpenAI علامة مائية على النصوص المولدة بنماذجها الخاصة، لكن Anthropic فعّلتها عالميًا، بينما تقوم OpenAI حاليًا بتفعيلها تلقائيًا فقط في الأماكن التي يطلب منها المنظمون ذلك.

المصادر: Arstechnica