בלוג

מנוע ds4 של יוצר Redis מריץ מודלים פתוחים מובילים מקומית

DwarfStar 4 (ds4) הוא מנוע הסקה מקומי שנכתב ב-C על ידי סלבטורה סנפיליפו (antirez), יוצר Redis; עם קוונטיזציה א-סימטרית של 2 ביט וסטרימינג מ-SSD הוא מריץ את מודל DeepSeek בן 284 מיליארד הפרמטרים על מכונות עם 96-128 ג'יגה.