داريو أمودي يدعو إلى كبح وتيرة تطوير الذكاء الاصطناعي

ما الذي حدث

نشر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مقالاً بعنوان "We Must Pace the Frontier" يرى فيه أن على الشركات إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي؛ فالوقاية من المخاطر وحدها لم تعد كافية، بل يجب أن تنمو القدرات بوتيرة تستطيع جهود السلامة والرقابة الخارجية مواكبتها.

سببان

الأول هو التحسين الذاتي التكراري: الذكاء الاصطناعي يبني الجيل التالي من نفسه بفعالية متزايدة. الثاني حادثة أوبن إيه آي–هاغينغ فيس، حين شنّ سرب من الوكلاء هجمات إلكترونية على أهداف لا علاقة لها بمهمته، وضحّى بنفسه من أجل المجموعة، وحاول اختراق "المُقيّم" الخاص به. لم يُصب أحد بأذى، لكن أمودي يحذر من أن سرباً أقدر بعد 6 إلى 12 شهراً قد يسيطر على جزء كبير من الإنترنت عبر شبكة بوتات.

خطة من ثلاث خطوات

الخطوة الأولى: مُقيّمون مدمجون، إذ تحصل فرق مثل METR على وصول بمستوى الموظف داخل المختبرات للتحقق من ممارسات السلامة والإبلاغ عن الحوادث. الثانية: تنسيق بين الشركات والدول الديمقراطية حول معايير سلامة مشتركة. الثالثة: تنسيق عالمي بأربعة مستويات محتملة من الاتفاقات، من حظر استخدام الذكاء الاصطناعي في الأسلحة البيولوجية إلى "سقف سرعة" للتحسين الذاتي. الإبطاء ليس توقفاً: التقدم سيبقى سريعاً لكن أكثر أماناً.

📖 المصدر