Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DevQuasar
Теги: gguf, endpoints_compatible, conversational
Лайков: 5 | Загрузок: 36
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это квантованная версия ZeroXClem/Qwen2.5-7B-HomerAnvita-NerdMix, созданная с использованием llama.cpp. ZeroXClem/Qwen2.5-7B-HomerAnvita-NerdMix — это расширенная языковая модель, тщательно созданная путем слияния...
Мы используем репозиторий Swift Modelscope для выполнения квантования GPTQ. Документацию по квантованию можно найти здесь. Команда квантования следующая:...
— Создатель модели: BioMistral — Исходная модель: BioMistral/BioMistral-7B MaziyarPanahi/BioMistral-7B-GGUF содержит файлы моделей формата GGUF для BioMistral/BioMistral-7B. Спасибо TheBloke...
SmolLM2 — это семейство компактных языковых моделей, доступных в трех размерах: параметры 135M, 360M и 1,7B. Они способны...
