Метка: llmcompressor - Каталог нейросетей

Метка: llmcompressor

Генерация текста

mratsim/Seed-OSS-36B-Instruct-NVFP4

Этот репозиторий содержит Seed-OSS-36B-Instruct, квантованный с помощью NVFP4, подходящий для максимальной производительности на оборудовании Nvidia Blackwell (5070, 5080,...