shuyuej/Mistral-Nemo-Instruct-2407-GPTQ - Каталог нейросетей
Генерация текста

shuyuej/Mistral-Nemo-Instruct-2407-GPTQ

Добавлено:
shuyuej/Mistral-Nemo-Instruct-2407-GPTQ

Исходная базовая модель: mistralai/Mistral-Nemo-Instruct-2407. Ссылка: https://huggingface.co/mistralai/Mistral-Nemo-Instruct-2407. Исходные коды: https://github.com/vkola-lab/medpodgpt/tree/main/quantization.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: shuyuej
Теги: mistral, conversational, text-generation-inference, endpoints_compatible, 4-bit, gptq
Лайков: 7  |  Загрузок: 10

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #4-bit #conversational #endpoints_compatible #gptq #mistral #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

OpenBuddy/openbuddy-mistral-7b-v13

GitHub и руководство по использованию: https://github.com/OpenBuddy/OpenBuddy Базовая модель: https://huggingface.co/mistralai/Mistral-7B-v0.1 Все модели OpenBuddy имеют присущие ограничения и потенциально могут...

886
HF Подробнее
Генерация текста

bartowski/Qwen2-72B-Instruct-GGUF

Используя llama.cpp, зафиксируйте ee459f40f65810a810151b24eba5b8bd174ceffe для квантования. Исходная модель: https://huggingface.co/Qwen/Qwen2-72B-Instruct. Если размер модели превышает 50 ГБ, она будет разделена...

356
HF Подробнее
Генерация текста

Qwen/Qwen2.5-1.5B-Instruct-AWQ

Qwen2.5 — новейшая серия моделей большого языка Qwen. Для Qwen2.5 мы выпускаем ряд базовых языковых моделей и языковых...

916.2k
HF Подробнее