ZeroWw/Meta-Llama-3.1-8B-Instruct-abliterated-GGUF - Каталог нейросетей
Генерация текста

ZeroWw/Meta-Llama-3.1-8B-Instruct-abliterated-GGUF

Добавлено:
ZeroWw/Meta-Llama-3.1-8B-Instruct-abliterated-GGUF

Мои собственные (ZeroWw) квантования. вывести и внедрить тензоры, квантованные до f16. все остальные тензоры квантованы до q5k или q6k. Результат: оба f16.q6 и f16.q5 меньше стандартного квантования q8_0 и работают так же хорошо, как чистый f16.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: ZeroWw
Теги: gguf, en, endpoints_compatible, conversational
Лайков: 17  |  Загрузок: 245

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #conversational #en #endpoints_compatible #gguf

Похожие модели (Генерация текста)

Генерация текста

jondurbin/airoboros-7b-gpt4-1.1

Это небольшое обновление https://huggingface.co/jondurbin/airoboros-7b-gpt4, содержащее еще около 1 тыс. инструкций по кодированию, а также исправления/улучшения контекстных инструкций из...

114
HF Подробнее
Генерация текста

VAGOsolutions/SauerkrautLM-Nemo-12b-Instruct

Точная настройка модели — чтобы продемонстрировать потенциал ресурсоэффективной точной настройки больших языковых моделей с использованием Spectrum Fine-Tuning*** Представляем...

49.9k
HF Подробнее
Генерация текста

second-state/StarCoder2-3B-GGUF

Модель генерации текста Модальности:Генерация текста Области применения:Генерация кода Задача: Генерация текста Автор: second-state Теги: gguf, starcoder2, codeЛайков: 17...

2k
HF Подробнее
Генерация текста

cookinai/OrcaHermes-Mistral-70B-miqu

Эта модель была создана SLERP слиянием двух моделей Miqu, обученных на двух наборах данных с высоким уровнем предварительного...

385
HF Подробнее