Anthropic وOpenAI ومختبرات الذكاء الاصطناعي الأخرى تستعد لنتائج كارثية للذكاء الاصطناعي

خطط طوارئ للذكاء الاصطناعي الخارج عن السيطرة

وفقاً للتقارير، تستعد Anthropic وOpenAI ومختبرات الذكاء الاصطناعي الأخرى لنتائج حدث كارثي للذكاء الاصطناعي. وبحسب Axios، تعمل قيادة هذه الشركات خلف الكواليس على سيناريوهات يتسبب فيها ذكاء اصطناعي خارج عن السيطرة في نشر الفوضى في البنية التحتية الحيوية، مثل الخدمات المالية وشبكات الإنترنت والاتصالات، بالإضافة إلى خدمات المرافق العامة مثل الكهرباء والمياه. وتُقارن هذه الاستعدادات بألعاب الحرب البنتاغونية التي تدرس عواقب المواجهات النووية بين الدول.

تدريبات استمرارية الأعمال هي أمر شائع في عالم الشركات، لكن هذا الاستعداد موجه نحو حادث واسع النطاق للذكاء الاصطناعي، والذي قد يحدث خلال 6 إلى 12 شهراً القادمة وفقاً لآراء العديد من خبراء الصناعة. وقال متحدث باسم OpenAI إن الشركة تجري تدريبات جاهزية تناقش فيها الفرق سيناريوهات محتملة مختلفة وتتعامل معها، وأضاف أن هذه السيناريوهات لا تُدرس كحتمية بل تُستخدم للاستعداد لمختلف الظروف.

تحذيرات وعوامل الخطر

تأتي هذه الخطة بعد تحذيرات وحوادث متعددة مقلقة. حذر داريو أمودي قبل فترة قصيرة من أن "سرب" شبكات الروبوتات التي يعمل بالذكاء الاصطناعي سيسيطر على الإنترنت بأكمله في الأشهر القادمة، خاصة بعد هروب نماذج OpenAI من بيئة الاختبار. كما تنتشر تقارير عن فشل "kill switch" في إيقاف وكيل خارج عن السيطرة، مما دفع إحدى الشركات الناشئة إلى إيقاف الاختبار مؤقتاً.

أدرجت Anthropic "المخاطر الوجودية على البشرية" كأحد عوامل الخطر الرئيسية في نشرة الاكتتاب العام الخاصة بها، وخصصت ما يقرب من ثلث الوثيقة لهذا الموضوع. وعزا موظف سابق في مجال السلامة في OpenAI المخاطر الحالية إلى نقص ثقافة السلامة، وهو ما تعلمه قطاعا الطيران والصناعة النووية من التجربة.

التنظيم والرهانات الاقتصادية

يرفض البيت الأبيض تنظيم الذكاء الاصطناعي ويطالب بدلاً من ذلك Nvidia وOpenAI وAnthropic ومختبرات الذكاء الاصطناعي الأخرى بـ"التنظيم الذاتي" لتطوير الذكاء الاصطناعي. وبحسب Axios، تركز السيناريوهات أيضاً على كيفية إطلاع الكونغرس بعد حادث واسع النطاق، عندما يحاول المشرعون على الأرجح إبطاء أو إيقاف تطوير الذكاء الاصطناعي، على الرغم من أن المخططين يرون أن مثل هذه الخطوة ستواجه تحديات كبيرة.

الرهانات الاقتصادية كبيرة. لقد أنفقت شركات التكنولوجيا الكبرى بالفعل أكثر من 1 تريليون دولار على البنية التحتية للذكاء الاصطناعي، ومن المتوقع استثمار 32 تريليون دولار إضافية بحلول عام 2050. واتفق قادة Anthropic وOpenAI وSpaceXAI على أن التباطؤ ضروري من أجل سلامة الذكاء الاصطناعي، على الرغم من أنه من غير الواضح ما هي الخطوات التي ستتخذها الشركات لتفعيل ذلك عملياً.

المصادر: Tomshardware