Метка: blockwise_int8

meituan/DeepSeek-R1-Block-INT8

Тип данных INT8 удобен и эффективен для большинства аппаратных платформ. При бенчмаркинге мы не наблюдаем потери точности и...