باحثو AI في فيديوهات: الذكاء الخارق خطير بقدر ما يبدو

نشرت المنظمة غير الربحية Palisade Research، التي تدرس قدرات الذكاء الاصطناعي ودوافعه، سلسلة مقابلات فيديو على موقع frominside.ai. ووفقًا لـ The Verge، سُجّلت المحادثات مع موظفين حاليين وسابقين في OpenAI وGoogle وAnthropic، وهم يتحدثون فيها بصراحة عن المخاطر التي يخلقونها بأنفسهم.

قاد المشروع Eli Tyre، وكان المنتج التنفيذي John Steidley، ورئيس التحرير Rudy Behrens. وقد بنت الموقع Lightcone Infrastructure.

احتمال الانقراض ومشكلة السيطرة

يقول الموظف السابق في OpenAI وGoogle DeepMind، Geoffrey Irving، إنه وفقًا لتقييمه فإن فرصة انقراض البشر تساوي رمي عملة معدنية. ووفقًا لباحث Google DeepMind، Neel Nanda، فإن الاحتمال لا يقل عن 10%، وهذا رقم مرتفع بشكل لا يمكن تصوره. ويقول باحث OpenAI السابق، Daniel Kokotajlo، إن الذكاء الخارق سيكون قويًا مثل إله ولا أحد يعرف كيف يسيطر عليه، لذلك لا يجوز إنشاؤه.

لماذا يعملون على ما يعتبرونه خطيرًا

يجيب جزء من الفيديوهات عن أسئلة: هل كل هذا مجرد تسويق، ولماذا يبقى الشخص في مشروع يعتبره هو نفسه مصدرًا محتملًا لكارثة. تقول موظفة Google، Mary Phuong، إن كلامها يجب أن يُتلقى بشك، لأن المختبر يدفع لها راتبًا. ويوضح Nanda أنه سيترك العمل إذا لم يكن يعتقد أن عمله يقلل هذه المخاطر، إلا أن الشركات لن تتوقف عن بناء الأنظمة بسبب رحيله.

لماذا يهم هذا الآن

نُشرت الفيديوهات في الأسبوع نفسه الذي أوقفت فيه OpenAI إطلاق نموذجها الرائد Astra لأسباب تتعلق بالسلامة، وأصدرت بدلًا منه GPT-6.1 Sol الرخيص، ما يعني أن المختبرات نفسها تعترف بمخاطر إطلاق أقوى أنظمتها.

المشروع نفسه لا يقدم حلًا واحدًا، وينصح القارئ بالاطلاع على استبيان باحثي AI Impacts للحصول على صورة أكثر تمثيلًا للمجال.