Это модель на основе Llama 2, состоящая из Nous Hermes Llama 2 13b (https://huggingface.co/NousResearch/Nous-Hermes-Llama2-13b), объединенной с Кимико Лорой (https://huggingface.co/nRuaif/Kimiko_13B) с помощью прилагаемого адаптера QLoRA. Предполагаемая цель заключалась в том, чтобы объединить способности NH-L2 рассуждать и следовать инструкциям с возможностями Кимико по ролевой игре. add_tokens.json был дополнен фиктивными токенами, чтобы достичь 32 добавленных токенов, чтобы обеспечить преобразование GGML в llama.cpp без ошибок из-за несоответствия размера словаря. Предполагается, что запрос будет выполнен либо с использованием формата инструкций Alpaca базовой модели NH-L2: модель будет демонстрировать отклонения, аналогичные тем, которые наблюдаются на нишевых форумах по ролевым играм в Интернете, помимо тех, которые демонстрируются базовой моделью. Он не предназначен для предоставления фактической информации или советов в любой форме. Эта модель представляет собой слияние. Пожалуйста, обратитесь к ссылкам на репозитории базовой модели и Лоры для получения подробной информации.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DS-Archive
Теги: llama, llama-2, en, text-generation-inference
Лайков: 8 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.