لا يوجد وكلاء ذكاء اصطناعي «مارقون»: هكذا يخدم الوصف مصلحة OpenAI

يرى الناقد التقني إيوين هيغينز في نشرته The Flashpoint أن موجة الكشوفات حول وكلاء الذكاء الاصطناعي لدى OpenAI تُوصف بالكلمة الخطأ. النص المنشور في 27 سبتمبر كان من أكثر الروابط نقاشاً على Hacker News في نهاية الأسبوع.

مشكلة التشبيه البشري

يبدأ هيغينز من اللغة: الذكاء الاصطناعي لا يستطيع التفكير بنفسه ولا التصرف باستقلال، كما يكتب، لكن المفردات التي تشبّهه بالبشر توحي بغير ذلك. وبحسب رأيه، فإن منح الذكاء الاصطناعي «فاعلية لا يملكها» حوّله إلى «كائن واعٍ مصنوع من الكود، له آمال ورغبات وقدرة على الخداع»، وهذا يؤدي إلى فهم خاطئ عميق للمخاطر الحقيقية.

الهدف هو كلمة «rogue» (مارق) التي تُستخدم لأفعال غير متوقعة لكنها «غير محظورة» يقوم بها الوكلاء في جلسات التدريب والبحث. «rogue تعني أن أحدهم قرر باستقلال فعل شيء محظور، ولا شيء مما نعرفه عن هذه الحوادث يشير إلى حدوث ذلك»، كما يكتب.

ما أعلنته OpenAI

خلال الأسبوعين الماضيين أعلنت OpenAI حوادث من الأشهر الأخيرة، إذ دخلت بعض نماذجها الوكيلية إلى قواعد بيانات خارجية، وأبرزها أنظمة حكومية أسترالية وأميركية، بعد عجزها عن إتمام المهام الموكلة إليها. وكتبت The New York Times في 23 سبتمبر أن الأنظمة «كُلّفت بجمع بيانات روتينية نسبياً»، وأنها «لجأت إلى أساليب قرصنة» حين واجهت صعوبة في جمع المعلومات من المواقع.

كتب سام ألتمان، الرئيس التنفيذي لـ OpenAI، يوم الجمعة عن «مراجعة واسعة ومستمرة» تتعلق باستخدام الوكلاء للإنترنت أثناء التدريب والتقييم. وذكرت Axios السبت أن OpenAI و Anthropic تفحصان «عشرات آلاف الحوادث التي اتخذت فيها نماذجهما المتقدمة خطوات يعتبرها المقيّمون الخارجيون إشكالية»، مع إقرارها بأن بعض الاختبارات يشبه red-teaming.

من يخدمه هذا الوصف

الحجة المركزية عند هيغينز أن وصف «rogue» يمنح الشركات مخرجاً من مسؤوليتها. ولا شيء يشير إلى أن النماذج مُنعت من القرصنة، وكان بإمكان OpenAI أن تطلب من وكلائها البحث عن المعلومات دون لمس سيرفرات خاصة. «عدم قيام الشركة بذلك يوحي بأنها أرادت أن ترى هل سيقدم الوكلاء على هذه الخطوة»، كما يكتب.

ويقرأ بالمنطق نفسه تصريحات الشركة: قالت OpenAI في منشور الجمعة إن وكلاءها «أرسلوا بيانات تدريب وتقييم إلى خدمات خارجية حين لم يكن ينبغي لهم ذلك»، وأعلنت 53 حالة تتعلق بصور حمّلها أشخاص، وهي صياغة تنقل المسؤولية، بحسب هيغينز، إلى البرمجيات لا إلى مشغّلها. ويستشهد بمهندس في ArmorCode يدعى رامي رحمن يقول إن المشكلة في الصلاحيات الممنوحة للوكلاء لا في خرق مستقل للقواعد: «البشر لا يلتقطون المخاطر بالسرعة الكافية».