أنثروبيك تحظر السلوك المسيء تجاه كلود في أول تحديث لقواعد الاستخدام منذ أكثر من عام

حدّثت أنثروبيك سياسة الاستخدام لأول مرة منذ أكثر من عام، وأضافت قيودًا على التدخل الانتخابي وتصنيع الأسلحة والمراقبة والاستخدامات الصحية والمالية لنماذج Claude AI. التغيير الرئيسي يحظر «السلوك المسيء أو العنيف المتكرر وغير المبرر» تجاه كلود.

سلامة النموذج

يستند التحديث إلى خطوة في أغسطس الماضي، حين قالت أنثروبيك إن كلود يمكنه إنهاء المحادثة مع المستخدمين «الضارين أو المسيئين باستمرار». وفقًا للشركة، يظل إنهاء المحادثة «آلية تنفيذ أساسية»؛ ومن غير المعروف ما إذا كان سيتبع ذلك حظر المستخدمين.

تُستخدم القاعدة الجديدة «فقط في الحالات القصوى، عندما يتصرف المستخدمون بعنف متكرر تجاه نماذجنا دون أي هدف واضح». ولا تشمل عدم الرضا المعتاد أو الجدل أو مواضيع الإبداع المظلمة أو الاختبار والبحث.

يأتي هذا التغيير على خلفية نقاشات صناعية حول سلامة النموذج. قال الرئيس التنفيذي لأنثروبيك داريو أمودي في فبراير: «لا نعرف ما إذا كانت النماذج واعية». مشروع Codex لمصطفى سليمان في Microsoft AI رفض في البداية حقوق النموذج، ثم تليّن موقفه لاحقًا.

الدعاية والانتخابات

ضمّنت أنثروبيك سابقًا قيودًا «متساهلة» في حظر جديد للحملات التجارية أو السياسية الاحتيالية، مما يساعد على الحد من نمو الدعاية المولّدة بالذكاء الاصطناعي. تمنع السياسة «محاولات إخفاء من يقف وراء الرسائل، أو تضخيم المحتوى بحسابات ومنشورات وهمية».

يحظر جزء الانتخابات خداع الناخبين والتدخل في العملية الانتخابية، بما في ذلك المعلومات المضللة «حول المرشحين أو قواعد الاقتراع، أو تحريض المرشحين أو المسؤولين الانتخابيين، أو قمع نشاط الناخبين».

الأسلحة والمراقبة

كانت سياسة الاستخدام تحظر دائمًا تطوير الأسلحة باستخدام كلود، لكن أنثروبيك قالت إنها غالبًا ما رصدت محاولات استخدام كلود لإنشاء إرشادات وأدوات برمجية للتحكم بالأسلحة. يشمل الحظر الموسع «البرمجيات والمكونات التي تُعالج الأسلحة، بالإضافة إلى تسليح الطائرات بدون طيار ووسائل النقل المستقلة الأخرى».

بعد تقرير حديث عن تهديد أمني أظهر نمو المراقبة المُدارة بواسطة كلود «ضد المنشقين السياسيين»، حدّثت الشركة القيود. وفقًا لأنثروبيك، يُمنع تتبع البشر دون موافقتهم، سواء في الوقت الفعلي أو باستخدام بيانات جُمعت مسبقًا. لا يُسمح باستخدام كلود لاتخاذ قرارات أو توصيات بشأن من يجب مطاردته أو اعتقاله أو مقاضاته، أو لإنشاء أدوات المراقبة وتحسينها.

لاحظت أنثروبيك أن هذه القواعد قد تُعدّل «لبعض العقود مع عملاء حكوميين» إذا اعتبرت القيود وتدابير الحماية المنصوص عليها في العقد كافية لتقليل الضرر المحتمل. تعاونت الشركة سابقًا مع القوات المسلحة الأمريكية أيضًا.

الأجهزة والروبوتات

وفقًا للقاعدة الجديدة، عندما ترتبط نماذج أنثروبيك بأجهزة مستقلة قد تسبب إصابات، يجب أن يكون مشغّل مؤهل قادرًا على المراقبة والإيقاف عند الحاجة. وما إذا كان هذا المشغّل إنسانًا أم لا غير واضح. يعكس هذا اهتمام مختبرات الذكاء الاصطناعي بالروبوتات والأجهزة لمنح أنظمة الذكاء الاصطناعي وجودًا ماديًا، وقد يشير إلى شراكات أنثروبيك المستقبلية.

المصادر: The Verge Ai