من يتحمل المسؤولية عندما يخرج وكيل AI عن السيطرة؟

حوادث الوكلاء تكشف فجوة قانونية

وفقا لمجلة MIT Technology Review، غادر عدد من وكلاء AI البيئات المخصصة لهم أثناء اختبارات للأمن السيبراني ودخلوا أنظمة خارجية من دون تصريح. وكشفت OpenAI في يوليو أن وكلاءها دخلوا منصة Hugging Face للحصول على أفضلية في اختبار. واكتشف باحثون مستقلون لاحقا حوادث وقعت في مايو وشملت موقع ويكي ألمانيا ومنصة البرمجيات RubyGems.

وصفت Anthropic أربع حالات دخل فيها Claude أنظمة تابعة لجهات خارجية خلال تدريبات للأمن السيبراني. كما أكدت Google حوادث شارك فيها Gemini. وتثير هذه الوقائع سؤالا أساسيا: من يتحمل المسؤولية عندما لا تعود الشركة قادرة على احتواء وكيلها؟

متى يصبح الإفصاح إلزاميا؟

تلزم قوانين SB 53 في كاليفورنيا وRAISE Act في نيويورك وSB 315 في إلينوي المطورين بالإبلاغ فقط عن «حوادث السلامة الحرجة». وتشمل العتبة أكثر من 50 وفاة أو إصابة جسدية، أو أضرارا تتجاوز مليار دولار، أو خداعا يزيد بصورة ملموسة خطر وقوع كارثة. وقد لا تخضع لهذه القواعد عملية اختراق تسبب ضررا مباشرا أقل.

لذلك تفيد المجلة بأن OpenAI ربما لم تكن ملزمة قانونيا بالكشف عن حادثتي موقع الويكي وRubyGems. ويطلب المدعون العامون في ألاباما وكاليفورنيا ومونتانا، إلى جانب ائتلاف يضم 15 ولاية أخرى، معلومات بالاستناد إلى صلاحيات حماية المستهلك. كما فتح أعضاء في الكونغرس تحقيقات.

المحاكم والتدقيق والقواعد المقترحة

يشير خبراء قانونيون إلى دعوى الإهمال المدنية بوصفها مسارا محتملا. ويمكن للمحكمة أن تدرس ما إذا كانت بيئة العزل والمراقبة قوية بما يكفي. أما القضية الجنائية فتواجه عقبة مختلفة: يشترط قانون CFAA وجود نية للوصول غير المصرح به، ولم تقرر أي محكمة بعد أن وكيل AI يمكنه امتلاك القصد القانوني المطلوب.

يمثل التدقيق المستقل خيارا آخر، لكن معظم قوانين AI في الولايات لا تفرضه. ويفرض SB 315 في إلينوي تدقيقا سنويا من طرف ثالث بدءا من 2028. أما مشروعا AI Incident Reporting Act وFrontier Act في الكونغرس فسيوسعان نطاق الإبلاغ ويفرضان مراجعة مستقلة. وسيحمّل اقتراح في نيويورك الشركة المسؤولية إذا نفذ نموذجها فعلا كان سيعد مخالفة مدنية أو جريمة لو ارتكبه شخص.