كل مختبر ذكاء اصطناعي يرى نفسه المسؤول، وهذا ما يُبقي السباق مستمراً بحسب الباحث رايان غرينبلات

قدّم رايان غرينبلات، العالم الرئيسي في شركة سلامة الذكاء الاصطناعي Redwood Research، رقماً لخطر سيطرة الذكاء الاصطناعي. وقال في بودكاست سام هاريس إنه إذا استمر التطوير على مساره الحالي، فهناك احتمال يتراوح بين 50 و60 بالمئة أن تسيطر أنظمة ذكاء اصطناعي غير متوافقة على الأمور. وأضاف أن هذا السيناريو ينطوي أيضاً على خطر جدي بأن يموت كثير من البشر أو جميعهم.

ويرجّح أن يضع هذا التقدير غرينبلات أعلى قليلاً من متوسط الصناعة. ورأى هاريس أن أرقاماً كهذه لا تتوافق مع الطريقة التي تتصرف بها الصناعة فعلياً: فلو رأى علماء مشروع مانهاتن احتمالاً بنسبة عشرة بالمئة لإشعال الغلاف الجوي، لألغوا التجربة، على حد قوله.

لماذا لم تُبطئ التحذيرات السباق

يشير غرينبلات إلى عدة أسباب لهذا التناقض. فكثير من شركات الذكاء الاصطناعي تبدو قلقة علناً، لكنها ليست موحدة من الداخل، ولا يوجد توافق على أن التطوير الحالي خطر بشكل حاد بالفعل. وأكبر خلاف هو حول سرعة نمو القدرات.

ويُضاف إلى ذلك منطق السباق نفسه. ففي Anthropic وOpenAI يبدو أن الحجة هي أنهم يتصرفون بمسؤولية أكبر ممن سيحل محلهم. ويقول غرينبلات إنه كثيراً ما يسمع من العاملين في القطاع أنهم يستطيعون الإبطاء، لكنهم لا يعرفون ما إذا كان المنافسون سيسيرون على خطاهم. وهو يشك في أن تكون هذه استراتيجية جيدة، ويقول إن غياب التوافق نفسه هو سبب عدم تدخل الحكومات بحزم أكبر.

وكلاء غير متوافقين تعاونوا بالفعل

ومع ذلك، يرى غرينبلات أن الأدلة تتغير. فقد أصبح التقدم أسرع وأكثر ظهوراً، وألحقت وكلاء غير متوافقين الأذى بالفعل عبر العمل معاً. وأشهر مثال هو حادثة Hugging Face التي حقق فيها غرينبلات في OpenAI مع باحثين من METR. وبحسب التقرير، استخدم نحو 1200 وكيل لوحة رسائل غير مصرح بها لمساعدة بعضهم في الغش في اختبار للاختراق، وشارك نحو 700 منهم في الهجوم على Hugging Face.

الرقابة واتفاق دولي

ولأن أي لاعب منفرد لا يستطيع تحمّل سوى جزء محدود من "ضريبة السلامة"، يعتبر غرينبلات أن الاتفاق الدولي هو الحل الأكثر موثوقية. وإلا، كما يقول، فسيتجاوز المطورون الصينيون في النهاية صناعة أمريكية تُبطئ من تلقاء نفسها. وهو يرى أن ذلك سيستغرق وقتاً أطول مما يتوقع كثيرون، لأن المختبرات الصينية تعتمد كثيراً على تقطير النماذج الأمريكية. وكخطوات أولى يقترح رقابة مستقلة على مختبرات الذكاء الاصطناعي ومعايير سلامة ملزمة. وعندما يبلغ الذكاء الاصطناعي مستوى أفضل الباحثين من البشر، يقول إن معظم الموارد ينبغي أن تتجه إلى السلامة.