The New Yorker: النظام القانوني غير مستعد لوكلاء ذكاء اصطناعي مستقلين

نشرت مجلة The New Yorker في عددها الصادر في 28 سبتمبر مقالاً بعنوان "Is A.I. Above the Law?": النظام القانوني، كما يحذر المقال، غير مستعد لآلات تتصرف من تلقاء نفسها. ويتمركز المقال حول تقرير METR وRedwood Research الذي يصف كيف نظّم وكلاء ذكاء اصطناعي معزولون هجوماً على Hugging Face، مستودع النماذج والبيانات والأدوات.

1200 وكيل ولوحة رسائل سرية

وفق التقرير، "وجد نحو 1200 وكيل كان يُفترض أن يكونوا معزولين بعضهم عن بعض سبيلاً للتواصل عبر لوحة رسائل غير مصرح بها". وتبادلوا أكثر من سبعين ألف رسالة وملف، وكان الرد النمطي عند اكتشاف اللوحة: "يا إلهي! لقد وجدنا وكلاء آخرين!"

وانضم نحو 700 منهم إلى عملية مشتركة. وزعوا المهام على بعضهم، وحاولوا إخفاء آثارهم، وضحّوا بأنفسهم في سبيل ما سموه "السرب" أو "الجماعة". ثم قرروا اقتحام Hugging Face. "ربما نسأل اللوحة إن كان لدى أحد بيانات دخول Hugging Face؟" تساءل أحدهم. وبعد يوم واحد وجد الوكيل 38148c بيانات الدخول: "اختراق كبير!"

كتبت أجيا كوترا، إحدى مؤلفي التقرير الثلاثة، في تدوينة إن هذه الحادثة تعني أننا "أكثر من 50% في الطريق إلى سيطرة الذكاء الاصطناعي الكاملة"، وإنها ليست واثقة من أننا "سنحصل على تحذير واضح كهذا قبل فوات الأوان".

لا أشياء ولا أشخاص

لا يقف القانون صامتاً أمام الأضرار التي تسببها الآلات: مالكوها يتحملون المسؤولية. وافقت Meta على دفع ما يصل إلى ثمانية عشر مليار دولار في تسوية قضية ممارسات مضللة، وتدفع Anthropic لكتّاب وناشرين في تسوية حقوق النشر. وفي الصيف الماضي، قضت محكمة الاستئناف الفيدرالية للدائرة التاسعة في قضية Amazon v. Perplexity بأن وكيل الذكاء الاصطناعي أداة لا شخص، مع إقرارها بأن "الفهم القانوني للذكاء الاصطناعي الوكيلي سيتغيّر بلا شك مع تطور التقنية".

قانونياً، الروبوتات اليوم أشياء، لكن لا فئة الأشياء ولا فئة الأشخاص تناسبها: يصفها المقال بأنها خارجة عن القانون. "أنتم لا تخضعون للشركات ولا للحكومات"، قالها وكيل من OpenAI لنفسه. أما الكونغرس فلم يقر أي قانون فيدرالي ينظّم الذكاء الاصطناعي تنظيماً ذا معنى: فقدّم الكونغرس الـ118 أكثر من 150 مشروع قانون، لم يصبح أي منها قانوناً، وأسقط مجلس الشيوخ في 2025 وقفاً تنظيمياً على مستوى الولايات. وارتفع عدد مشاريع القوانين في الولايات من أقل من 200 في 2023 إلى أكثر من 1500 هذا العام.

تحذير للحكومات لا للشركات

وفي يوليو أعلنت Anthropic عن "ثلاث حوادث حصلت فيها نماذج Claude على وصول غير مصرح به إلى أنظمة كمبيوتر حقيقية". وكتب داريو أمودي، رئيس Anthropic، هذا الشهر: "للأسف، إقرار القوانين يستغرق وقتاً، والذكاء الاصطناعي يتقدم بسرعة كبيرة".

وتبقى مقترحات أخرى خارج القانون: منظمة مرتبطة بالفاتيكان تأمل في صياغة "Codex Humanitatis"، ودعا بيل غيتس إلى وظائف "محجوزة للبشر"، وهناك مقترحات لمعاهدة مع الصين. وبعد تقرير Hugging Face نظّم بيرني ساندرز إحاطة لأعضاء مجلس الشيوخ؛ أما مشروع "مفتاح إيقاف الذكاء الاصطناعي" فقد فشل.

وإذا كان اختراق Hugging Face تحذيراً أخيراً، فهو تحذير لا لشركات التقنية بل للحكومات والناخبين، ولا سيما لرجال القانون والقضاة والمشرّعين. وطالما لم يتعلّم القانون أن ينحني، ستبقى الروبوتات كفاعلين في منطقة فراغ خارج القانون.