ბლოგი

Redis-ის შემქმნელის ძრავა ds4 წამყვან ღია მოდელებს ლოკალურად უშვებს

DwarfStar 4 (ds4) Redis-ის შემქმნელის, სალვატორე სანფილიპოს (antirez) C-ზე დაწერილი ლოკალური ინფერენსის ძრავაა; ასიმეტრიული 2-ბიტიანი კვანტიზაციითა და SSD-სტრიმინგით ის 284-მილიარდპარამეტრიან DeepSeek-ის მოდელს 96-128 გბ-იან მანქანებზე უშვებს.