Квантование GPTQ https://huggingface.co/PygmalionAI/pygmalion-6b/commit/30e2405100eac6bd53f75964cc7345eeafd19f7d Используя этот репозиторий: https://github.com/mayaeary/GPTQ-for-LLaMa/tree/gptj-v2
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mayaeary
Теги: gptj, text generation, conversational, gptq, 4bit, en
Лайков: 121 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Современные двуязычные программы магистратуры по математике с открытым исходным кодом. Решатель, доказывающий, проверяющий, увеличивающий. — [2024.05.24] Мы выпускаем...
Модель будет использоваться как часть генерации данных синтетических испытаний Ragas для замены GPT-4 в качестве критической модели. Чтобы...
LLM Cogito v2 представляют собой генеративные модели, настроенные на инструкции. Все модели выпускаются по открытой лицензии для коммерческого...
Наш новейший метод квантования представляет собой высокоточное адаптивное квантование для моделей со сверхмалой разрядностью (1–2 бита) с проверенными...
