شريك مؤسس في فيسبوك يقترح «مكتب إشراف على الذكاء الاصطناعي»

دعا كريس هيوز، أحد المشاركين في تأسيس فيسبوك، إلى إخضاع شركات الذكاء الاصطناعي لنوع الإشراف نفسه الذي تخضع له المصارف. وفي مقال رأي نشرته صحيفة فايننشال تايمز في 23 سبتمبر، يقترح إنشاء «مكتب الإشراف على الذكاء الاصطناعي» (Office of AI Supervision) يضع فرقاً إشرافية حكومية داخل مختبرات الذكاء الاصطناعي المتقدمة، على أن يعمل المشرفون بولايات محددة مدتها ثلاث سنوات لتفادي «الأسر التنظيمي» (regulatory capture) — بحسب ملخص موقع Techmeme لمقال الصحيفة.

ماذا يقترح المقال

هيوز، الذي غادر فيسبوك عام 2007، هو مؤلف كتاب «Marketcrafters: The 100-Year Struggle to Shape the American Economy» وباحث غير مقيم في معهد بروكينغز. ويرى أن القطاعين متشابهان: فكلاهما يتغير بسرعة ويمتد أثره إلى الاقتصاد بأكمله، ما يفرض على المسؤولين الموازنة بين فوائد الابتكار والمخاطر التي يخلقها. وبدلاً من تدقيق المختبرات من الخارج، سيقيم المكتب الذي يقترحه مشرفين حكوميين داخل الشركات — لمدة ثلاث سنوات محددة، حتى لا يقتربوا كثيراً من الشركات التي يشرفون عليها.

على أي حجة يستند

يستكمل المقال حجة داريو أمودي، الرئيس التنفيذي لشركة Anthropic، الذي رأى في مقاله «We Must Pace the Frontier» الصادر في سبتمبر أن على المقيّمين المستقلين أن يحصلوا على مكاتب داخل شركات الذكاء الاصطناعي. وقال أمودي إن Anthropic ستمنح المقيّمين الخارجيين، من جانب واحد، وصولاً مماثلاً لوصول فرق المخاطر الداخلية لديها — مكاتب وبطاقات دخول وحواسيب الشركة المحمولة — إضافة إلى حق نشر النتائج دون رقابة تحريرية من الشركة، باستثناءات محدودة. وشبّه هذا الترتيب بالإشراف المصرفي، حيث يعمل المنظمون أحياناً إلى جانب الموظفين، ودعا الحكومات إلى إلزام المختبرات المتقدمة الأخرى بالحذو حذوه. وقال سام ألتمان من OpenAI إن شركته ستفعل الشيء نفسه.

لماذا يهم ذلك

يستطيع المشرف المصرفي أن يأمر مؤسسة بوقف ممارسة معينة، أو تقييد نموها، أو إغلاقها في حالات قصوى. أما المقيّمون المقترحون لمختبرات الذكاء الاصطناعي فسيقتصر دورهم حتى الآن على التحقيق ونشر التقارير، من دون سلطة إيقاف تدريب نموذج أو طرحه — وهي فجوة يشير إليها منتقدو الإشراف الطوعي. ويذهب اقتراح هيوز أبعد من ذلك: إذ يدخل فرقاً حكومية لا متعاقدين خارجيين إلى المختبرات، ويحدد مدة عملها. ويأتي المقال في وقت تتناقش فيه الحكومات السؤال نفسه: فقد رفض الرئيس الأميركي دونالد ترامب، في كلمته أمام الأمم المتحدة في 22 سبتمبر، اتفاقاً دولياً بشأن مخاطر الذكاء الاصطناعي، وقال إنه يريد تغيير اسم المجال إلى «super intelligence»، بحسب ما نقله Techmeme.