عالم نفس من هارفارد يدعو إلى هندسة أمان رصينة للذكاء الاصطناعي بدل الخطاب الكارثي

رفض عالم النفس في جامعة هارفارد ستيفن بينكر فكرة أن الذكاء الاصطناعي على وشك إبادة البشرية. وقد عرض موقفه في رسالة مفتوحة نُشرت على موقع كويلت ووجّهها إلى الطبيب النفسي والمدوّن سكوت ألكسندر، الذي دعاه إلى مناظرة علنية حول المخاطر الوجودية للذكاء الاصطناعي. لكن بينكر رفض الدعوة ووصف مثل هذه المناظرات بأنها "رياضة للمتفرجين".

حجج بينكر

يرفض بينكر سيناريوهات يوم القيامة، ومنها ما يُعرف بمُضاعِف مشابك الورق، حيث يحوّل الذكاء الاصطناعي البشرية إلى مادة خام لصنع مزيد من المشابك. ويرى أن هذه السيناريوهات تخلط بين الذكاء والدافع إلى السيطرة، وتفترض أن النظام سيتشبث بهدف واحد بصورة هوسية متجاهلاً الآثار الجانبية.

وقد طرح بينكر هذه الحجج أول مرة في فصل من 31 صفحة بعنوان "Existential Risk" في كتابه Enlightenment Now الصادر عام 2018. ويقول إن سيناريوهات يوم القيامة تعاني أربعة عيوب: تصور غير مكتمل للذكاء بوصفه كمية من القوة يمكن توسيعها حتى معرفة كل شيء؛ والخلط بين الذكاء والدافع، لأن غريزة البقاء والسيطرة نتاج للانتقاء الطبيعي لدى البشر وليست جزءاً أصيلاً من الأنظمة الهندسية؛ وافتراض الانحصار الهوسي في هدف واحد؛ وافتراض أن المهندسين سيمنحون هذه الأنظمة سيطرة غير محدودة وغير قابلة للتراجع على البنية التحتية المادية للكوكب.

ويشير أيضاً إلى تحليل نمذجة أجرته مؤسسة RAND عام 2025، افترض أن الذكاء الاصطناعي يسعى فعلاً إلى إبادة البشرية، ومع ذلك خلص إلى أنه "لا يوجد سيناريو قابل للوصف يكون فيه الذكاء الاصطناعي تهديداً قاطعاً بانقراض البشرية".

ما يعترف به

لا يصف بينكر التقنية بأنها غير ضارة. فهو يعترف بأنه قلّل من تقدير مدى عمومية نماذج اللغة الكبيرة، ولم يتوقع السرعة التي ستطلق بها الشركات الرائدة منتجاتها، ولا قدراً من اللامسؤولية في ذلك. ويقول إن هذا السباق يقوده أشخاص من المجتمع نفسه الذي يحذّر من المخاطر.

ما ينفع فعلاً

المخاطر التي يأخذها بينكر على محمل الجد هي الإرهاب البيولوجي والتخريب السيبراني ووكلاء الذكاء الاصطناعي غير المنضبطين. ويقول إن الخطاب الكارثي لن يفيد في مواجهتها، بينما ينفع تقييم أمان متزن وممارسة هندسية: رقابة مستقلة، وتحقيق إلزامي في الحوادث، ومسؤولية عن الأضرار، وبقاء الإنسان في الحلقة، وآليات إيقاف.

ويحذّر كذلك من أن نبوءات الفناء كثيراً ما تأتي بنتيجة معاكسة: فقد أدى الخوف النووي في الستينيات إلى سباق تسلح لا إلى نزع السلاح.

موقف ألكسندر

عرض سكوت ألكسندر موقفه في مدونته Astral Codex Ten في يونيو. وهو يقدّر احتمال إبادة الذكاء الاصطناعي للبشرية بنسبة 20%، ويطالب بأبحاث أمان أقوى وباتفاقات دولية تبطئ تطوير الذكاء الاصطناعي.