Это предварительно квантованная модель GPTQ 4Bit Groupsize 128. Полную модель в fp32 можно найти на странице https://huggingface.co/NousResearch/gpt4-x-vicuna-13b. В качестве базовой модели используется https://huggingface.co/eachadea/vicuna-13b-1.1. Точно настроенная на наборе данных Teknium GPTeacher, неизданная версия Teknium. Набор данных Roleplay v2, WizardLM без цензуры, GPT-4-LLM без цензуры и набор данных Nous Research Instruct. Около 180 тыс. инструкций, все из GPT-4, все очищены от цензуры OpenAI/«Как языковая модель AI» и т. д. Базовая модель все еще имеет цензуру OpenAI. Вскоре будет выпущена новая версия с очищенной викуньей по адресу https://huggingface.co/datasets/anon8231489123/ShareGPTVicunaunfiltere. Обучена на 8 графических процессорах A100-80 ГБ в течение 5 эпох по коду глубокого обучения Alpaca. Набор данных Nous Research Instruct от https://huggingface.co/karan4d и https://huggingface.co/huemin
Модальности:
Генерация текста
Задача: Генерация текста
Автор: NousResearch
Теги: llama, en, endpoints_compatible
Лайков: 54 | Загрузок: 22
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
