TehVenom/Pygmalion-13b-8bit-GPTQ - Каталог нейросетей
Генерация текста

TehVenom/Pygmalion-13b-8bit-GPTQ

Добавлено:
TehVenom/Pygmalion-13b-8bit-GPTQ

Конвертировано из весов XOR из выпуска PygmalionAI https://huggingface.co/PygmalionAI/pygmalion-13b. Pygmalion 13b — это модель диалога, основанная на LLaMA-13b от Meta. Это версия 1. Она была доработана с использованием подмножества данных из Pygmalion-6B-v8-pt4 для тех из вас, кто знаком с проектом. Текущий «Пигмалион-13b» был обучен как LoRA, а затем объединен с базовой моделью для распространения. Он также был квантован до 8 бит с использованием библиотеки GPTQ, доступной здесь: https://github.com/0cc4m/GPTQ-for-LLaMa Пигмалион 13b — это модель диалога, основанная на LLaMA-13b от Meta. Это версия 1. Она была доработана с использованием подмножества данных из Pygmalion-6B-v8-pt4 для тех из вас, кто знаком с проектом. Текущий «Пигмалион-13b» был обучен как LoRA, а затем объединен с базовой моделью для распространения. В этой модели файлы XOR уже установлены «из коробки». Конвертировано из весов XOR из выпуска PygmalionAI https://huggingface.co/PygmalionAI/pygmalion-13b Модель была обучена в обычном формате «персона + чат» Pygmalion, поэтому любой из обычных пользовательских интерфейсов уже должен все правильно обрабатывать. Если вы используете модель напрямую, это…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: TehVenom
Теги: llama, text generation, conversational, en, text-generation-inference
Лайков: 11  |  Загрузок: 19

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.