Это DeepSeek-R1-Distill-Qwen-14B, квантованный с помощью AutoRound (симметричное квантование) и сериализованный в формате GPTQ в 4-битном формате. Модель была создана, протестирована и оценена компанией The Kaitchup. Подробности о процессе квантования и использовании модели можно найти здесь: DeepSeek-R1: Обучение с подкреплением с простыми и проверяемыми вознаграждениями. Разработчик: The Kaitchup. Язык(и) (NLP): Английский. Лицензия: лицензия Apache 2.0.
Модальности:
Генерация текста
Области применения:
Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: kaitchup
Теги: qwen2, auto-gptq, AutoRound, conversational, en, text-generation-inference, endpoints_compatible, 4-bit
Лайков: 7 | Загрузок: 30
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
