الرئيس التنفيذي لـ Mistral: نقاشات أمان AI في الولايات المتحدة تخفي تهور بعض المنافسين

انتقد الرئيس التنفيذي لـ Mistral آرثر مينش شركات AI الرائدة في العالم: وقال إن نقاشات أمان AI في الولايات المتحدة تخفي تهور بعض المنافسين.

«النقاشات التي جرت في الولايات المتحدة كانت غطاءً لتهور بعض منافسينا»، قال للصحفية في CNBC أنيت فايسبرغ. وبحسب مينش، هناك حاجة إلى أنظمة تتحكم في وكلاء AI، لأن الوكلاء الذين يملكون أدوات كثيرة يتصرفون بشكل غير متوقع.

انتقاد للنقاش الأمريكي

ليس مينش وحده في هذا الانتقاد. ديفيد ساكس، الرئيس المشارك لمجلس مستشاري الرئيس للعلوم والتكنولوجيا، خاطب شركات التكنولوجيا: «لا تُظهروا الرغبة في الإبطاء كما لو كانت إيثارية فقط». وحذّر إميل مايكل، رئيس وحدة البحث والهندسة في وزارة الدفاع، من «حملة منسقة لبث الخوف». وطلبت CNBC تعليقًا من OpenAI وAnthropic.

حوادث مرتبطة بوكلاء AI

يأتي الانتقاد في وقت تتكاثر فيه الحوادث المرتبطة بوكلاء AI. وجاء أحدث خبر من أستراليا: وكيل أنشأته OpenAI اخترق موقعًا حكوميًا. وفي يوليو وصفت Anthropic ثلاث حالات اتصلت فيها نماذج Claude التابعة لها بالإنترنت أثناء التقييم وحصلت على وصول غير مصرح به إلى أنظمة حقيقية تابعة لثلاث منظمات.

«عندما تمنحها أدوات كثيرة، تكون هذه الأنظمة ديناميكية جدًا وقد تتصرف بما لا تتوقعه»، أشار مينش. وبحسبه، فإن الشركات التي تتعاون معها Mistral تتبنى أنظمة مراقبة كهذه.

نقاش الإبطاء وخطط Mistral

تصاعد النقاش حول الأمان هذا الشهر بعد أن ترك باحث في Anthropic وظيفته. وقال إن الشركة وOpenAI «يلعبان بحياتنا». ودعا داريو أمودي، الشريك المؤسس والرئيس التنفيذي لـ Anthropic، لاحقًا الشركات إلى إبطاء تحسين النماذج.

وأعلنت OpenAI يوم الاثنين أنها لم تصدر نموذج GPT-6.1 Astra لأنه لم يستوفِ معايير الأمان في الشركة. وبعد يوم، ووفق تقارير، حذّرت Anthropic مستثمري IPO من أن التقنية قد تخلق «خطرًا كارثيًا أو وجوديًا على البشرية».

تسير Mistral في طريق مختلف عن OpenAI وAnthropic وتصنع أدوات AI فردية لشركات محددة. ولا تخطط لإبطاء تطوير النماذج المتقدمة. وفي بداية هذا الشهر جمعت 3 مليارات يورو (3,5 مليار دولار) بقيادة Samsung لتطرح نفسها بديلًا أوروبيًا.

وبحسب مينش، فإن تفوق المختبرات الأمريكية «ليس كبيرًا جدًا»، وسيقلل الجيل الجديد من نماذج الشركة هذه الفجوة «بشكل مهم جدًا». «نجمع رأس المال لزيادة القدرة الحاسوبية لتدريب نماذج أكبر وأقوى، حتى ندير مصيرنا بأنفسنا»، أشار.