[] = применяется как LoRA к составной модели | () = объединены в составные модели ((MantiCore3E+VicunaCocktail)+[SuperCOT+[StorytellingV2+(SuperHOTProtoType-8192ctx+Metharme)]]) Эта модель является результатом экспериментального использования LoRA на языковых моделях и слияниях моделей, которые не являются базовой моделью LLaMA в формате HuggingFace, для которой они были предназначены. Желаемый результат — аддитивно применять желаемые функции без парадоксального снижения эффективного поведения модели. Потенциальные ограничения — LoRA, применяемые друг над другом, могут взаимоконкурировать. Субъективные результаты – очень многообещающие. Требуются дальнейшие экспериментальные испытания и объективные испытания. Инструкции Альпаки проверены, форматы инструкций Викуньи должны работать. При использовании KoboldAI или Text-Generation-WebUI рекомендуется переключиться между предустановками Godlike и Storywriter и отрегулировать длину вывода + инструкции в памяти. Другие предустановки, а также пользовательские настройки могут давать совершенно разные результаты, особенно температура. Если тыкание палкой не помогло, попробуйте другую палку. https://huggingface.co/openaccess-ai-collective/manticore-13b https://huggingface.co/GamerUntouch/Storytelling-LLaMa-LoRAs Каждая модель и LoRA были выбраны вручную и…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: digitous
Теги: llama, cot, vicuna, uncensored, merge, mix, gptq, text-generation-inference
Лайков: 6 | Загрузок: 289
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
