Квантование GPTQ https://huggingface.co/PygmalionAI/pygmalion-6b/commit/b8344bb4eb76a437797ad3b19420a13922aaabe1 Используя этот репозиторий: https://github.com/mayaeary/GPTQ-for-LLaMa/tree/gptj-v2
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mayaeary
Теги: gptj, text generation, conversational, gptq, 4bit, en
Лайков: 40 | Загрузок: 26
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
— Для создания этой модели была использована двухэтапная процедура. Сначала была создана новая модель 20B с использованием microsoft/Orca-2-13b...
В этой серии репозиториев мы представляем репродукцию больших языковых моделей LLaMA и LLaMa 2 от Meta AI с...
Квантование GGUF 0xSero/gemma-4-21b-a4b-it-REAP, 20% экспертного варианта google/gemma-4-26b-a4b-it с использованием метода REAP (взвешенное по маршрутизатору экспертное сокращение активации). 0xSero/gemma-4-21b-a4b-it-REAP...
🤗 ВЧ-модели   |   📕 Блог перед тренировкой   |   📕 Блог после тренинга   |...
