Этот репозиторий содержит исходный код полной точности в формате «безопасных тензоров» для создания GGUF, GPTQ, EXL2, AWQ, HQQ и других форматов. Исходный код также можно использовать напрямую. В этой модели используется базовая модель «L3 Dark Planet 8B» (модели этой модели также указаны) с адаптером Brainstorm 40x (созданным DavidAU). https://huggingface.co/DavidAU/LLama-3.1-128k-Darkest-Planet-Uncensored-16.5B ВАЖНО: Настройки высочайшего качества / Руководство по оптимальной эксплуатации / Параметры и пробоотборники. Если вы собираетесь использовать эту модель (источник, GGUF или другой квант), просмотрите этот документ на предмет критических параметров, пробоотборника и дополнительных настроек пробоотборника (для нескольких приложений AI/LLM). Это модель «Класс 3» (настройки по умолчанию имеют решающее значение для работы) / «Класс 4» (настройки по умолчанию И настройки сэмплера имеют решающее значение для работы): для всех настроек, используемых для этой модели (включая особенности ее «класса»), включая создание примеров и руководство по расширенным настройкам (которое часто решает любые проблемы модели), включая методы повышения производительности модели для всех вариантов использования, а также чат, ролевые игры и другие варианты использования (особенно для вариантов использования, выходящих за рамки модели). дизайн) см.: […
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: llama, mergekit, merge, llama-3, creative, creative writing, fiction writing, plot generation
Лайков: 6 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
