OpenJev يشغّل نموذج قرار داخل المتصفح بالكامل

يقدّم موقع openjev.com نفسه كتجربة محلية حية تحت اسم SemIf، أي «شروط دلالية من نماذج مفتوحة، داخل متصفحك». لا يوجد تسجيل ولا قائمة انتظار: يختار الزائر حجم النموذج، ويحمّله على معالج الرسوميات الخاص به، ويقارن طريقتين لاستخلاص قرار من الأوزان نفسها. لا يُرسل أي شيء إلى خادم، ويوضح الموقع أن المدخلات لا تغادر الصفحة.

سؤال واحد بطريقتين

تطرح التجربة قرارًا واحدًا — حالة وسؤالًا وقائمة بالخيارات المسموح بها — على نموذج محلي واحد، ثم تجيب عليه عبر مسارين. الأول قراءة مباشرة: يقرأ الكود لوغيتات الاختيار الخاصة بالنموذج ويطبّعها بين الخيارات المقدَّمة فقط، دون خطوة فك ترميز. الثاني توليد: يُطلب من النموذج نفسه تقدير التوزيع ذاته وكتابته بصيغة JSON، رمزًا برمز.

يجري المساران بالتتابع على النموذج المحمَّل نفسه كي لا يتنافسا على معالج الرسوميات ذاته؛ تُنفَّذ القراءة المباشرة أولًا ثم يأتي التوليد.

كل قياس يأتي من جهاز الزائر

تقيس الصفحة التحميل والإحماء وتحضير الطلب والتنفيذ المباشر وأول رمز مولَّد واكتمال التوليد باستخدام performance.now(). وتذكر أن النتائج ليست معدّة سلفًا: النسبة الظاهرة على الشاشة هي تلك الناتجة عن عتاد الزائر نفسه.

تحذيرات يوضحها العرض

الملاحظات المنشورة دقيقة إلى حد غير معتاد. درجات القراءة المباشرة هي softmax على رموز الخيارات المعروضة فقط: ليست ثقة معايَرة، ولا تغطي كل جواب قد يفضّله النموذج. النموذج الافتراضي لسطح المكتب هو MiniCPM5 2B بحجم 1.56 غيغابايت؛ ويُنصح بـ Qwen3 0.6B للهواتف والأجهزة الأصغر، بينما يحتاج خيار 4B إلى ذاكرة أكبر بكثير. ولا يُدّعى أن أي منها يضاهي القيم المنشورة لـ Jev.

تُجلب الأوزان من Hugging Face وتبقى في ذاكرة المتصفح المؤقتة، عبر نسخ GGUF مثبّتة باستخدام wllama. وقد يغيّر التكميم الجودة والسرعة معًا، وتحذّر الصفحة من أن التحميل الأول قد يستغرق دقائق عدة حسب النموذج والشبكة ومعالج الرسوميات.