Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/jondurbin/bagel-dpo-20b-v04-llama. Матрица важности была обучена для 100 тыс. токенов (200 пакетов по 512 токенов) с использованием wiki.train.raw.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 310
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Galactic-Qwen-14B-Exp2 основан на модальной архитектуре Qwen 2.5 14B, предназначенной для расширения возможностей рассуждения моделей с 14B-параметрами. Эта модель...
————|——:|——|——:|———-|——:|—|——:| Настоящим бесплатно любому лицу, получившему копию данного программного обеспечения и связанных с ним файлов документации («Программное обеспечение»),...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: cloudyu Теги: mixtral, moe, dpo, text-generation-inference, endpoints_compatibleЛайков: 4 | ...
TriLM (троичная модель), распакованная в формат FP16, совместимая с GEMM FP16. После распаковки TriLM имеет ту же архитектуру,...
