בלוג

NVIDIA ו-Dao AI Lab הציגו ReplaySSM להאצת פענוח מודלים היברידיים

NVIDIA ו-Dao AI Lab מאוניברסיטת פרינסטון הציגו ReplaySSM, המאחסן את מצב SSM כנקודת בקרה ומאגר קלטים אחרונים, מפחית בחצי את תעבורת הזיכרון ומאיץ פענוח היברידי על GPU-ים של Blackwell.