Доработанный Llama-2 7B с нецензурированным/нефильтрованным набором данных разговоров Волшебника и Викуньи (первоначально из ehartford/wizardvicuna70k_unfiltered). Для тонкой настройки использовал QLoRA. Обучение в течение одной эпохи на экземпляре графического процессора емкостью 24 ГБ (NVIDIA A10G) заняло около 19 часов. Благодаря TheBloke он создал версии GGML и GPTQ: https://huggingface.co/TheBloke/llama27bchatuncensored-GGML https://huggingface.co/TheBloke/llama27bchatuncensored-GPTQ
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: georgesung
Теги: tensorboard, llama, text-generation-inference, endpoints_compatible
Лайков: 405 | Загрузок: 1,101
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.