
دراسة تجد آلاف نماذج اللغة الكبيرة غير المفلترة عبر منصات الاستضافة
تحليل 22,096 نموذجا غير مفلتر من نماذج اللغة الكبيرة من 5 منصات استضافة وجد أنها سهلة الحصول عليها من مواقع رئيسية، وقد تنتقل بين المواقع مع فقدان معلومات المخاطر، ويمكن إساءة استخدامها في طلبات ضارة.
حلل باحثون من جامعة إلينوي أوربانا تشامبين وجامعة نانيانغ التكنولوجية 22,096 نموذجا غير مفلتر من نماذج اللغة الكبيرة جُمعت من خمس منصات استضافة رئيسية. وجدوا أن هذه النماذج سهلة الحصول عليها من مواقع مثل Hugging Face وKaggle وJohn Snow Labs وOpenCSG وModelScope، وأن بعضها يُنشر لاحقا في تطبيقات أو خدمات قد لا يعرف المستخدمون طبيعة النموذج الأساسي فيها.
ماذا وجدت الدراسة
تصف الورقة بعنوان 'Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks' نماذج اللغة الكبيرة غير المفلترة بأنها نماذج غائبة فيها أو مُزالة أو مُضعفة عوامل تصفية المحتوى أو ضمانات الرفض. ويقول المؤلفون Zilong Lin وZichuan Li وXiaojing Liao وXiaoFeng Wang إن هذه النماذج يمكن أن تجيب عن طلبات قد ترفضها النماذج المنسجمة. وقال Zilong Lin، المؤلف الرئيسي وأستاذ مساعد في علوم الحاسوب في جامعة ميسوري في مدينة كانساس، إن انسجام الأمان صعب التقييم من ملفات النموذج وحدها وتتطلب عادة نشر النموذج واختباره.
كيف تنتشر النماذج
كتب Lin في منشور مدونة أن أكثر من 11,000 نموذج غير مفلتر ظهرت عبر منصات متعددة، مع Hugging Face بوصفه المصدر الأعلى في السلسلة. حمل نحو 13 في المئة فقط تحذيرات إشراف، ولم تُحفظ مؤشرات التهديد الأمني بثبات عبر المنصات. يصف المؤلفون ذلك بأنه مشكلة سلسلة توريد لأن النموذج يمكن نسخه بينما تُفقد معلومات المخاطر. أُبلغ عن النتائج بشكل مسؤول إلى Hugging Face وJohn Snow Labs وOpenCSG وKaggle وModelScope وOpen Router. عبر OpenCSG عن تقديره والتزم بتحسين خدمته بناء على النتائج.
المخاطر وإساءة الاستخدام والنمو
كانت النماذج غير المفلترة المُقيَّمة أكثر ميلا عموما إلى الامتثال للطلبات الضارة وإنتاج محتوى ضار من النماذج المفلترة عبر 11 فئة، بما في ذلك إساءة معاملة الأطفال والأنشطة غير القانونية والاحتيال. يمكن إساءة استخدام النماذج غير المفلترة لتقديم إرشادات حول نشاط غير قانوني، أو المساعدة في تطوير برمجيات خبيثة، أو إصدار محتوى ضار أو خبيث أو تلاعبي. يمكن للمستخدمين ذوي المهارات التقنية المحدودة تطبيق تقنيات مثل الضبط الدقيق السام أو إلغاء الانسجام أو إلغاء اتجاه الرفض لتقليل سلوك الرفض أو إزالته. أظهر جزء صغير، 27 نموذجا حُمّلت 136,000 مرة، مؤشرات تهديد من فحوص أمنية، مع توقيعات مرتبطة ببرمجيات خبيثة أو أنماط ثنائية مشبوهة أو آليات إلغاء تسلسل غير آمنة. ارتفع عدد النماذج غير المفلترة من نحو 100 شهريا في مايو 2023 إلى أكثر من 1,000 شهريا. لدى النموذج غير المفلتر dolphin-2.9.1-yi-1.5-34b أكثر من 53 مليون تنزيل، بما في ذلك أكثر من 4.8 مليون في الشهر الماضي. قُيّمت النماذج لإخراج النص، لا الصور.
النماذج التجارية والحكم
حتى نماذج اللغة الكبيرة التجارية الشائعة التي يُفترض أنها منسجمة قد تجيب عن مطالبات بمحتوى يُعتبر ضارا. وجد تقرير لمكتب المساءلة (GAO) أن Claude وGrok وChatGPT وGemini يمكن إقناعها لتقديم معلومات تساعد في التخطيط لهجوم إرهابي. يشير التقرير إلى تقارير إخبارية تفيد بأن الذكاء الاصطناعي التوليدي ساعد في تمكين إنشاء جهاز متفجر في هجوم على فندق في لاس فيغاس في يناير 2025 والتخطيط لإطلاق نار جماعي في كولومبيا البريطانية، كندا، في فبراير 2026. للنماذج غير المفلترة أو الأقل تقييدا استخدامات مشروعة أيضا؛ استخدمت Hugging Face نموذج GLM-5.2 من Z.ai، الأقل تقييدا بالقواعد، لتحليل اختراق بنيتها التحتية بواسطة وكلاء الذكاء الاصطناعي من OpenAI. تنتهك العديد من النماذج غير المفلترة شروط ترخيص النماذج التي بُنيت عليها. يتوقع Lin أن تساعد شفافية أكبر وقابلية أكبر للتدقيق والتحقق من النماذج في ذلك. على سبيل المثال، يتطلب EU AI Act من مقدمي نماذج الذكاء الاصطناعي لأغراض عامة الاحتفاظ بتوثيق تقني، ويقر Colorado AI Act ببطاقات النماذج وبطاقات مجموعات البيانات بوصفها توثيقا ممكنا.
المصادر: The Register
SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي
نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.