SiTech AI Team1 دقيقة قراءة
بحث OpenAI: السلامة والمواءمة في عصر النماذج طويلة الأمد
نشرت OpenAI بحثاً جديداً حول السلامة والمواءمة للنماذج طويلة الأمد. كلما عمل وكلاء AI لفترة أطول، أصبح التحكم بهم أكثر صعوبة.
نماذج AI طويلة الأمد — تحدٍ جديد
نشرت OpenAI بحثاً مهماً حول السلامة والمواءمة للنماذج طويلة الأمد (long-horizon models). هذه هي أنظمة AI تعمل لأيام أو أسابيع، وتتخذ قرارات بشكل مستقل. مع زيادة قدرات وكلاء AI، يصبح ضمان سلامتهم أكثر صعوبة. يحدد البحث عدة مخاطر رئيسية: انحراف الأهداف (goal misgeneralization)، صعوبة المراقبة، والسلوكيات الناشئة غير المتوقعة.
شارك التجربة الرقمية
SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي
نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.