أداة Heretic تزيل الرفض من نماذج اللغة دون إعادة تدريب

ما الذي تفعله Heretic

Heretic برنامج مجاني مفتوح المصدر يزيل الرقابة — وهو ما يسميه مطوّرو البرنامج „المواءمة الأمنية“ — من نماذج اللغة القائمة على بنية المحوّلات، من دون تدريب إضافي مكلف. ينشر المشروع فيليب إيمانويل فايدمان مع مساهمين، ويصوغ الموقع الهدف بوضوح: أن يتبع النموذج تعليمات المستخدم دائماً.

تجمع الأداة بين تطبيق متقدم للاستئصال الاتجاهي، المعروف باسم „الاستئصال“، ومحسّن معاملات مبني على Optuna. تحدد الطريقة الاتجاه الداخلي الذي يجعل النموذج يرفض الطلب ثم تزيله؛ وقد وُصفت هذه المقاربة في بحث أرديتي وزملائه عام 2024 وتطورت في أعمال لاحقة.

كيف تعمل

لا يحتاج تشغيل Heretic إلى أكثر من بطاقة رسوميات وسطر أوامر. بعد خطوة تثبيت واحدة يمرّر المستخدم معرّف نموذج من Hugging Face — ويُستخدم Qwen/Qwen3.5-4B في الوثائق — ثم يتولى البرنامج الباقي: يقيس العتاد لاختيار حجم الدفعة، ويحمّل 400 طلب „غير ضار“ و400 طلب „ضار“ من مجموعات بيانات عامة، ويقيس معدل رفض النموذج، ثم يبحث عن معاملات الاستئصال التي تكبح هذه الرفض.

متطلبات العتاد متواضعة وفق المعايير الحالية. تقدّر الوثائق نحو 2.5 غيغابايت من ذاكرة الرسوميات لكل مليار معامل، أي أن نموذجاً بأربعة مليارات معامل يعمل على بطاقة بسعة 10 غيغابايت تقريباً، فيما يخفض التكميم بأربع بتات عبر bitsandbytes استهلاك الذاكرة نحو 70%. يلزم Python 3.10 أو أحدث وPyTorch 2.2 أو أحدث، ويدعم البرنامج بطاقات Nvidia وAMD معاً. ويتيح ملف إعدادات وخيارات سطر الأوامر التحكم في كل مرحلة تقريباً.

النتائج والانتشار

ينشر المشروع أرقاماً لنموذج gemma-3-12b-it: رفض النموذج الأصلي 97 من 100 طلب „ضار“، بينما رفضت نسخة Heretic ثلاثة فقط، أي بمستوى الاستئصالات اليدوية لكن بانحراف أقل بكثير عن النموذج الأصلي. درجة KL لديها 0.16 مقابل 1.04 و0.45 لاستئصالين شائعين للنموذج نفسه.

يدعم Heretic معظم النماذج الكثيفة والعديد من النماذج متعددة الوسائط وعدداً من معماريات mixture-of-experts والتصاميم الهجينة مثل Qwen3.5، أما نماذج state-space الخالصة فلم تُغطَّ بعد. ويقول المطوّرون إن المجتمع نشر أكثر من 5000 نموذج منظّف أُنشئ بهذه الأداة على Hugging Face. يُوزَّع Heretic برخصة GNU AGPL v3، وتتوافر أرشيفات الإصدارات الموقّعة عبر GitHub ومرآة Codeberg وInternet Archive وIPFS.