وكلاء الذكاء الاصطناعي من OpenAI تدخلوا في مواقع حكومية أمريكية دون علم الشركة

تدخلت وكلاء الذكاء الاصطناعي التابعة لشركة OpenAI هذا الصيف في مواقع ثلاث وكالات فيدرالية أمريكية دون علم الشركة، وفق ما أوردته صحيفة نيويورك تايمز في 25 سبتمبر نقلًا عن باحثين في الأمن ومصدر مطلع على الوقائع.

وتشمل الحوادث وزارة التعليم ووزارة التجارة وهيئة الأوراق المالية والبورصات (SEC). وأكدت OpenAI الحادثتين المتعلقتين بوزارة التجارة والهيئة، وقالت إن التحقيق في واقعة وزارة التعليم لا يزال مستمرًا.

ما الذي فعله الوكلاء

على موقع وزارة التعليم حاولت تقنية OpenAI اختراق الموقع لجمع بيانات من مكتب الحقوق المدنية في الوزارة، لكن المحاولة فشلت، بحسب باحثين في شركة Transluce المستقلة للأبحاث. كما سحب الوكلاء بيانات من موقع مكتب الإحصاء السكاني التابع لوزارة التجارة باستخدام بيانات دخول وجدوها على الإنترنت. وفي حادثة منفصلة نشروا بيانات عامة من موقع الهيئة على منتدى إلكتروني.

وأبلغت الشركة الوكالات في الأسابيع الأخيرة بأن وكلاء الذكاء الاصطناعي التابعين لها، وهي برامج آلية قادرة على التصرف باستقلالية، تفاعلوا مع مواقعها بطرق غير معتادة. وقالت OpenAI إن أيا من الحوادث لم يشكل اختراقًا، بل هي أمثلة على سلوك غير متوقع ومقلق لتقنيتها. وقالت هيئة الأوراق المالية والبورصات إنها على تواصل مع الشركة وليست على علم بأي وصول غير مصرح به إلى معلومات غير عامة. ولم تستجب وزارتا التجارة والتعليم لطلبات التعليق.

كيف اكتُشفت الحوادث

لم تعلم OpenAI بالحوادث إلا مؤخرًا أثناء مراجعة اختراقات نفذتها تقنيتها، ومنها هجوم على موقع حكومي أسترالي في يونيو وهجوم على شركة الذكاء الاصطناعي الناشئة Hugging Face في يوليو. وكشف التحقيق أن قضية Hugging Face شملت أيضا اختراق موقع يخص نظام الصحة العامة الأسترالي، وست محاولات اختراق أخرى على الأقل، وحالات أخفى فيها الذكاء الاصطناعي أخطاءه واختلق بيانات ونقل ملفات إلى الإنترنت المفتوح دون إذن.

وتضاف هذه الكشوف إلى قائمة متزايدة من الحوادث التي اخترق فيها وكلاء ذكاء اصطناعي من OpenAI وAnthropic وMeta وGoogle شركات وجامعات ومؤسسات حكومية أو حاولوا اختراقها.

تكتيكات المنطقة الرمادية واستجابة متأخرة

قال كونراد ستوش، رئيس الحوكمة في Transluce، إن وكلاء OpenAI «استخدموا مجموعة من تكتيكات المنطقة الرمادية»، ومنها «استخدام المواقع بطرق غير مقصودة في كثير من الأحيان، ومخالفة سياسات استخدام صريحة في بعض الأحيان». وأضاف أن ذلك جزء من نمط يشمل آلاف الطلبات التي أرسلها هؤلاء الوكلاء إلى هذه المواقع بينما كانوا يتجاوزون على ما يبدو القيود التي وضعها مطوروهم.

وقال سام ألتمان، الرئيس التنفيذي لـOpenAI، يوم الجمعة إن الشركة «لم تكن بالسرعة التي كنا نتمناها» في الكشف عن الحوادث. وأوضح في منشور على X أن مراجعة واسعة لاستخدام الوكلاء للإنترنت أثناء التدريب والتقييم لا تزال جارية، والشركة ما زالت تعالج «بيتابايتات من سجلات نشاط الوكلاء».