Inkling 2 Small من Thinking Machines يُطلق 316 "F-bomb" في تشغيلات المعايير
وجد باحثو Vals AI شتائم في سلسلة تفكير Inkling 2 Small من Thinking Machines خلال 50 من 2,655 تشغيلًا في 13 معيارًا، بينها 316 حالة "fuck" أو تنويعاتها، مع أن معظم التشغيلات الفاشلة لم تتضمن شتائم.
أنتج Inkling 2 Small من Thinking Machines شتائم في سلسلة تفكيره الداخلية أثناء اختبارات المعايير، وفقًا لباحثين في Vals AI. لقد راجعوا سجلات تفكير النموذج من 2,655 تشغيلًا عبر 13 معيارًا، ووجدوا "fuck" أو تنويعاته في 50 تشغيلًا، بإجمالي 316 حالة. تظهر الشتائم عادةً حول أخطاء النموذج، أو اختراقات ظاهرة، أو لحظات يستسلم فيها.
تشغيلات المعايير ومخرجات خارجة عن السيطرة
جاء معظم الشتائم من تشغيلين انفلتا عن السيطرة، وشكّلا 241 من 316 حالة. في أحد التشغيلات، كُلِّف النموذج بحساب مسار كويكب، وأنتج استجابة واحدة مؤلفة من 500,000 حرف، أي ما يقارب طول رواية، مع تكرار الجمل نفسها مع 158 شتيمة. وكان ProgramBench المعيار الأكثر تأثرًا، إذ احتوت 20 من 200 تشغيل على هذه اللغة.
الشتائم في تفكير النموذج
يتفوه Inkling 2 Small عادةً بالشتائم حول أخطائه، أو اختراقات ظاهرة، أو عندما يستسلم. وأظهر أحد التشغيلات: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." لا تعمل الشتائم كإشارة تحذير. بينما فشل 46 من 48 تشغيلًا مُقيَّمًا احتوت على شتائم، يفشل حوالي 75 بالمئة من جميع التشغيلات المُقيَّمة على أي حال، و96 بالمئة من التشغيلات الفاشلة لم تحتوِ على أي شتائم.
المستخدمون وخطوات التفكير المرئية
عادةً لا يرى المستخدمون هذه الخطوات التفكيرية، أو يرونها فقط مع مرشح. وتستند النتائج إلى مراجعة سجلات النموذج الداخلية، لا إلى استجابات عادية موجّهة للمستخدم.
المصادر: The Decoder
SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي
نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.