Пигмалион 13b — это диалоговая модель, основанная на LLaMA-13b от Meta. Это версия 1. Она была доработана с использованием подмножества данных из Pygmalion-6B-v8-pt4 для тех из вас, кто знаком с проектом. Текущий «Пигмалион-13b» был обучен как LoRA, а затем объединен с базовой моделью для распространения. В этой модели файлы XOR уже установлены «из коробки». Конвертировано из весов XOR из выпуска PygmalionAI https://huggingface.co/PygmalionAI/pygmalion-13b Модель была обучена в обычном формате «персона + чат» Pygmalion, поэтому любой из обычных пользовательских интерфейсов уже должен все правильно обрабатывать. Если вы используете модель напрямую, это ожидаемое форматирование: где [CHARACTER] — это, как вы, наверное, догадались, имя персонажа, которого вы хотите, чтобы модель изображала, следует использовать дословно в качестве маркера-разделителя для отделения данных о личности и сценарии от диалога, а [ИСТОРИЯ ДИАЛОГОВ] — это скользящее окно истории чата, чтобы модель могла иметь разговорный контекст, из которого можно было бы извлечь информацию. Вот конкретный пример: модель автоматически выдаст токен конца текста (), когда решит, что ответ завершен. Текущие оценки модели «Пигмалион-13b»: таблица {…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: TehVenom
Теги: llama, text generation, conversational, en, text-generation-inference
Лайков: 24 | Загрузок: 1,431
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.