Метка: compressed-tensors - Страница 5 - Каталог нейросетей

Метка: compressed-tensors

Генерация текста

xhxlb/IQuest-Coder-V1-40B-Instruct-int4

Этот репозиторий предоставляет квантованный по массе INT4 (W4A16) вариант IQuestLab/IQuest-Coder-V1-40B-Instruct, квантованный с помощью llm-компрессора и сохраненный в формате...