— Базовая модель: unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit — Исходная модель LoRA: samunder12/llama-3.1-8b-roleplay-v5-lora — Метод тонкой настройки: PEFT (LoRA) с оптимизацией производительности Unsloth. — Ранг LoRA (r): 64 — Формат: GGUF — Квантование: Q4KM — contextwindow** 4096 llama-3.1-8b-Rp-tadashinu-gguf — это доработанная версия Llama 3.1 8B Instruct, специально созданная для того, чтобы стать мастером концептуального, остроумного, захватывающего и мрачного, интенсивного творческого письма. Это не обычный рассказчик. Обученная на специально подобранном наборе данных абсурдных и творческих сценариев — от разумных таксидермических енотов до приложений для криптидных знакомств — эта модель превосходно справляется с созданием уникальных персонажей, созданием увлекательных сцен и созданием фантастических миров с отчетливым, циничным голосом. Если вам нужен творческий партнер для мозгового штурма причудливых идей, эта модель для вас. Эта модель была доработана с использованием библиотеки Unsloth для обеспечения максимальной производительности и эффективности использования памяти. Прилагаемые файлы: адаптер LoRA для использования с базовой моделью. Версия GGUF (q4km) для облегчения вывода на локальных машинах с llama.cpp, LM Studio, Ollama и т. д. Эта модель предназначена для творческих и развлекательных целей. Это отличный инструмент…
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: samunder12
Теги: gguf, llama, roleplay, rp, character, peft, unsloth, llama-3.1
Лайков: 7 | Загрузок: 63
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.