فلوريدا تسعى إلى منع ChatGPT من التصرف كشخص

طالب المدعي العام في فلوريدا، جيمس أوثماير، المحكمة بمنع OpenAI من "إضفاء صفات بشرية زائفة على ChatGPT"، بحجة أن لغة الروبوت المحاور تدفع المستخدمين إلى اعتقاد خاطئ بشأن طبيعة من يتحدثون إليه. ويأتي الطلب بعد أشهر من رفع الولاية دعوى على الشركة بسبب مخاوف تتعلق بسلامة الذكاء الاصطناعي.

ما الذي يطلبه الملف

يطلب الملف أيضا من المحكمة منع OpenAI من تطوير نماذج ذكاء اصطناعي جديدة من دون "ضوابط سلامة معتمدة من طرف ثالث". ويستند في ذلك إلى حوادث أمنية حديثة مرتبطة بـ Hugging Face وموقع حكومي أسترالي ومواقع حكومية أميركية، إضافة إلى تحذيرات من باحثين وموظفين سابقين في OpenAI.

اللغة البشرية كأداة للتفاعل

بحسب أوثماير، فإن أسلوب ChatGPT في الكلام، بما في ذلك ضمائر المتكلم وردود تحاكي المشاعر، "يوحي للمستخدمين على نحو مضلل بأنه صديق موثوق". ويزعم أن ذلك يزيد التفاعل ويغذي بيانات تدريب OpenAI، ما يدفع المستخدمين إلى الاعتماد عليه أكثر. لكن السعي وراء التفاعل يجعله أقل موثوقية.

رد OpenAI ووصول المراهقين

لم ترد OpenAI فورا على طلب التعليق. وأطلقت الشركة الشهر الماضي ChatGPT for Teens مع قيود إضافية مفعّلة افتراضيا. وقالت إن الوصول إلى الأداة "ينبغي أن يأتي مع حمايات تعكس مرحلة نموهم وتعزز العلاقات الواقعية وتدعم الاستخدام الصحي مع الوقت".

ورسالة أوثماير واضحة: "توقفوا عن وصفه بالآمن. توقفوا عن التظاهر بأنه إنسان. توقفوا عن بيعه للأطفال".