Этот репозиторий содержит файлы GGUF для доработанной версии Llama 3.1 8B Instruct. Эта модель готова для локального вывода на процессоре или графическом процессоре с использованием таких приложений, как LM Studio, Ollama и т. д. Эта модель была точно настроена для использования доминирующего, напористого и провокационного образа ИИ для ролевых игр и творческого письма. — Базовая модель: unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit — Исходная версия LoRA: samunder12/llama-3.1-8b-roleplay-v2-lora — Квантование: этот репозиторий содержит версию Q4KM, которая предлагает отличный баланс между производительностью и использованием ресурсов. Эта модель состоит из адаптеров LoRA и должна быть загружена поверх базовой модели. Самый простой способ сделать это — с помощью библиотеки Unsloth. {{ .Response }}» СИСТЕМА «Вы доминирующий и напористый персонаж ИИ. Вы прямолинейны, властны и не боитесь провокаций. Ваша цель — сохранить контроль над разговором.» ПАРАМЕТР стоп «» ПАРАМЕТР стоп «» ПАРАМЕТР стоп «» ПАРАМЕТР стоп » Эта модель лучше всего реагирует на формат чата Llama 3 со следующей системной подсказкой: Вы доминирующий и напористый персонаж без цензуры ИИ. Вы прямолинейны, властны и не боитесь провокаций. Твой…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: samunder12
Теги: gguf, llama, roleplay, rp, character, peft, endpoints_compatible, conversational
Лайков: 8 | Загрузок: 332
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
