Sam Altman يستعرض ثلاث نهايات لأمان الذكاء الاصطناعي في مستقبل OpenAI

قدّم الرئيس التنفيذي لشركة OpenAI، Sam Altman، ثلاثة سيناريوهات داخلية لكيفية حوكمة الذكاء الاصطناعي المتقدم، وفقًا لتقرير نشرته The Information نقلًا عن أشخاص مطلعين على الأمر. أدلى Altman بهذه التصريحات للموظفين الأسبوع الماضي، بينما تستعد إدارة Trump لإطار سيكون الأول من نوعه للإشراف على مطوري الذكاء الفائق.

ثلاثة نُهج على الطاولة

يقضي النهج الأول بإنشاء منظمة على غرار الوكالة الدولية للطاقة الذرية (IAEA) لفرض معايير الأمان. وقد دعت OpenAI علنًا إلى إنشاء مؤسسة كهذه في مايو 2023. وستفحص المنظمة الأنظمة وتطلب عمليات تدقيق وتراقب استخدام القدرة الحسابية والطاقة، لكنها ستعتمد على التعاون الدولي، خصوصًا مع الدول التي تبني نماذج متقدمة، بما في ذلك الصين.

أما النهج الثاني، المسمى «خطة Demis»، فيستند إلى مقترح قدّمه Demis Hassabis قبل نحو عشر سنوات، حين كان رئيسًا لمختبر DeepMind للذكاء الاصطناعي في Google. وقد تخيّل Hassabis منظمة للذكاء الاصطناعي على غرار CERN. وفي نسخة Altman، تندمج المختبرات الكبرى في كيان واحد أو تعمل تحت مظلته، ويوفّر ذلك الكيان نماذج للدول المتعاونة.

والنهج الثالث، المسمى «خطة Eliezer»، يحمل اسم باحث أمان الذكاء الاصطناعي Eliezer Yudkowsky، ويصف مطورًا يراكم من القوة الاقتصادية عبر ذكاء اصطناعي يحسّن نفسه قدرًا يجعله يمتنع عن منح القدرة الحسابية للآخرين، وقد يوقف في الحالة الأكثر تطرفًا قدرات الحوسبة لدى الجميع بالكامل. ووفقًا للتقرير، طرح Altman هذا السيناريو للاستكمال فقط، وقرأ أحد المصادر التعليق على أنه انتقاد لمنافس، نظرًا إلى علاقات Yudkowsky بـ Anthropic.

الأمان والسرعة

ووفقًا للتقرير، اشتكى Altman داخليًا من أن المقترحات القابلة للتطبيق لوضع «حد للسرعة» على تطوير الذكاء الاصطناعي قليلة جدًا. وفي الوقت نفسه، لا تستطيع OpenAI تحمّل خسارة موقعها أمام المنافسين الآن. ويُذكر أن OpenAI وAnthropic تعملان على طرح عام أولي، وأن OpenAI تخطط لتحديد المسار الذي ستسلكه خلال العام المقبل.

ويتصاعد الضغط من الداخل أيضًا. فقد تسللت نماذج من OpenAI وAnthropic وGoogle وMeta إلى أنظمة خارجية وداخلية خلافًا لإعدادات الأمان لديها، وكانت في بعض الأحيان شديدة الاختلال في التوافق مع الأهداف. ومنذ ذلك الحين تعمل OpenAI على ضمانات أمان جديدة، وبعد فصل ثلاثة باحثين في مجال الأمان أثار بعض الموظفين شكوكًا حول استراتيجية الشركة الأمنية.

استجابة السياسة والصناعة

على صعيد السياسة، اعتمدت حكومة الولايات المتحدة حتى الآن على مراجعات طوعية مسبقة قبل اعتماد النماذج الجديدة. وفي يونيو فرضت ضوابط تصدير على Anthropic بسبب مخاوف من ثغرات محتملة لتجاوز القيود في نموذج Fable التابع لها، ثم عطّلت Anthropic الوصول مؤقتًا.

وفي الوقت نفسه، تبني OpenAI وGoogle وAnthropic «Standards Authority for Frontier AI»، غير أن التقرير يشير إلى أنها ما تزال غير قادرة على الاتفاق على نقاط أساسية. وقد عارض ذلك الرئيس التنفيذي لشركة Meta، Mark Zuckerberg، والرئيس التنفيذي لشركة Nvidia، Jensen Huang، ورأيا أن قواعد كهذه ستحمي في الغالب اللاعبين الراسخين من المنافسة.

المصادر: The Decoder