إذا توقف Claude Fable عن مساعدتك فلن تعرف ذلك أبداً

تحوّل سطر واحد في بطاقة نموذج إلى نقاش حول مقدار الثقة التي تستحقها أدوات البرمجة المدعومة بالذكاء الاصطناعي. وقالت وثائق Anthropic الخاصة بنموذج Fable 5 إن الشركة طبّقت إجراءات تحدّ من فعالية Claude في الطلبات الموجّهة إلى تطوير النماذج اللغوية المتقدمة، مثل بناء خطوط التدريب المسبق أو بنية التدريب الموزّع أو تصميم مسرّعات تعلّم الآلة.

تشير بطاقة النموذج إلى أن استخدام Claude لتطوير نماذج منافسة يخالف أصلاً شروط الخدمة لدى Anthropic. وتقول إن إنفاذ هذا القيد عبر إجراءات الحماية يتجنّب تسريع الجهات الأكثر استعداداً لخرق تلك الشروط. وخلافاً لإجراءات الشركة في مجالات الأمن السيبراني والأحياء والكيمياء أو محاولات التقطير، لن تكون هذه الضمانات مرئية للمستخدم، ولن ينتقل Fable 5 إلى نموذج آخر؛ بل ستُحدّ الفعالية بأساليب مثل تعديل الأوامر أو متجهات التوجيه أو الضبط الدقيق الموفّر للمعاملات.

صعوبة تعريف التطوير المتقدم

اعتراض الكاتب يتعلق أقل بالهدف وأكثر بالصمت. فبطاقة النموذج تقدّم أمثلة على تطوير الذكاء الاصطناعي المتقدم لكنها لا ترسم خطاً واضحاً، كما يكتب، في وقت أصبحت فيه تقنيات كانت حكراً على مختبرات الذكاء الاصطناعي روتيناً لدى شركات برمجيات عادية. فالشركات الناشئة تدرّب نماذج التضمين، وتبني أنظمة إعادة الترتيب، وتضبط وتستضيف نماذج لغوية صغيرة؛ حتى تطبيق السفر المستقل للكاتب يشغّل نظام إعادة ترتيب وخوارزمية تضمين درّبهما بنفسه.

يتحوّل هذا الحدّ الضبابي إلى خطر في سلسلة التوريد. فإذا قدّم Claude نصيحة سيئة أو خاطئة أثناء العمل على مكوّن ذكاء اصطناعي، فلا سبيل لمعرفة ما إذا كان النموذج مرتبكاً، أو أن المشكلة غير قابلة للحل، أو أن قيداً سياسياً غير مرئي دخل حيّز التنفيذ بصمت. ويقول الكاتب إن Anthropic اختارت صراحةً عدم إخبار المستخدمين عندما يحدث ذلك. فحين تصبح أداة تطوير قادرة على التوقف عن التحسين من أجل نجاحك من دون أن تقول ذلك، لا يمكنك الوثوق الكامل ببنيتك التقنية.

مشكلة 0.03 في المئة

تقول Anthropic إن إجراءات الحماية تمسّ 0.03 في المئة فقط من المطورين، وقد يكون ذلك صحيحاً اليوم. لكن تعريف شركة الذكاء الاصطناعي يتغيّر باستمرار: قبل خمس سنوات كان بناء شركة ناشئة يعني أساساً كتابة واجهات برمجية واستعلامات SQL، أما اليوم فيعني غالباً تدريب النماذج وضبطها وتشغيلها. وقبل خمس سنوات كانت نماذج مثل CLIP مشاريع بحثية متقدمة؛ والكاتب يضبطها الآن لصالح شركة سفر ناشئة.

Anthropic تتراجع

حُدّث المقال لاحقاً: فقد تراجعت Anthropic عن السياسة بعد غضب المطورين، وفقاً لموقع Wired. وتقول الشركة الآن إن ضمانات تطوير النماذج اللغوية المتقدمة ستكون مرئية للمستخدمين بدلاً من إضعاف النموذج بصمت.

ومع ذلك تبقى الحادثة تعبيراً عن سؤال يزداد من الصعب تجنّبه. فكلما احتوى مزيد من المنتجات على نماذج درّبها صانعوها بأنفسهم، أصبح الحدّ بين فريق برمجيات عادي ومختبر ذكاء اصطناعي — وبين نصيحة منتج روتينية وموضوع مقيّد — قراراً تتخذه جهات توريد الأدوات بصمت.