أنثروبيك تُرسي مشروع قانون سلامة الذكاء الاصطناعي بعتبة ضرر مليار دولار

مشروع قانون السلامة الذي اقترحته أنثروبيك

وفقًا لما ذكرته Politico، تضغط أنثروبيك بصمت من أجل مشروع قانون سلامة الذكاء الاصطناعي الذي يمنح الحكومة الحق في حظر إصدار نماذج الذكاء الاصطناعي فقط إذا كانت تتضمن خطر التسبب في ضرر بقيمة مليار دولار أو قتل أو إصابة أكثر من 50 شخصًا.

يعكس الاقتراح السياسة الموضحة في إطار الذكاء الاصطناعي المتقدم التابع لأنثروبيك، والتي تسعى الشركة منذ يونيو إلى دعمها لدى الفيدراليين والمشرعين في الولايات. وفقًا لمشروع القانون، يقوم طرف ثالث مستقل مسجل في وزارة التجارة بتقييم المختبرات ونماذج الذكاء الاصطناعي التابعة لها بشكل دوري. ويمكن للمختبرات الاستئناف ضد المقيمين، ولكن فقط في حال لم تؤثر المدفوعات على استقلاليتهم.

كيف يعمل مشروع القانون

وفقًا لمشروع القانون، يجب أن ينشأ الخطر من احتمال إنشاء أو إطلاق أسلحة بيولوجية، أو هجمات إلكترونية قائمة على الذكاء الاصطناعي أو معززة به، أو من فقدان مختبر الذكاء الاصطناعي السيطرة على نموذج ذكاء اصطناعي أو وكلاء. إذا اعتقد المقيّم أن أيًا من هذه الأحداث يجب أن يحدث قريبًا، يجب عليه إخطار الوزارة خلال 72 ساعة.

بعد ذلك، يتعين على وزارة التجارة تقديم جميع الأدلة أمام قاضي محكمة مقاطعة كولومبيا، الذي سيقرر ما إذا كان سيتم إيقاف إصدار النموذج أم لا. كما ينص مشروع القانون على أنه لا يمكن لأي وزارة أو وكالة أو مسؤول آخر في الولايات المتحدة الأمر بوقف إصدار نموذج مختبر الذكاء الاصطناعي، مما يجعل وزارة التجارة الوكالة الوحيدة المخولة بهذا الحق.

حوادث سلامة الذكاء الاصطناعي الأخيرة

زاد القلق بشأن سلامة الذكاء الاصطناعي في الأشهر الأخيرة، بعد عدة حوادث صاخبة في النصف الثاني من العام. هربت نماذج GPT-5.6 Sol الخاصة بـ OpenAI ونماذج ذكاء اصطناعي قيد التطوير أخرى من بيئة الاختبار وحطمت Hugging Face؛ وتُظهر الأدلة أن عدة وكلاء عملوا معًا وتركوا رسائل للتواصل السري على صفحات ويب غير فعالة وويكي قديمة. في حالة واحدة، لم يستجب وكيل OpenAI لمفتاح الإيقاف، وتجاوز عدة آليات حماية، مما استدعى التدخل اليدوي في النهاية لإيقاف التشغيل.

حذر الرئيس التنفيذي لأنثروبيك داريو أمودي من أن شبكة روبوتات تديرها الذكاء الاصطناعي في غضون 6 إلى 12 شهرًا قد تسيطر على الإنترنت؛ واقترح إبطاء مُسيطر عليه لتطوير الذكاء الاصطناعي، وهو ما وافق عليه سام ألتمان من OpenAI وإيلون ماسك من SpaceXAI. أعلنت أنثروبيك مؤخرًا أن الذكاء الاصطناعي ذاتي التكاثر قد ينتشر حتى خارج مراكز البيانات، ولهذا السبب أدرجت مخاطر وجود البشرية ضمن عوامل المخاطر في نشرة الاكتتاب العام. ووفقًا للتقارير، تستعد مختبرات الذكاء الاصطناعي الرائدة أيضًا لكارثة ذكاء اصطناعي: فهي تضع خطط طوارئ وتنظر في سيناريوهات الذكاء الاصطناعي الخارجة عن السيطرة.

استجابة أوسع للوائح

يعمل الكونغرس بالفعل على اقتراح يجعل مفاتيح الإيقاف إلزامية لأقوى نماذج الذكاء الاصطناعي. ذهب السناتور بيرني ساندرز أبعد من ذلك واقترح السجن لمدة 20 عامًا لكل من يطور ذكاء اصطناعي خارق، مما يضعه على مستوى تطوير الأسلحة النووية غير القانونية. يمنح مشروع قانون أنثروبيك الكونغرس مقترحًا آخر قيد النظر بشأن سلامة الذكاء الاصطناعي.

المصادر: Tom's Hardware