Эта модель представляет собой экспериментальное слияние sophosympatheia/New-Dawn-Llama-3-70B-32K-v1.0 с мета-ламой/Meta-Llama-3.1-70B-Instruct. Подробности смотрите в рецепте слияния ниже. Я использовал технику, разработанную jukofyork, которая предназначена для сохранения всех контекстных возможностей Meta-Llama-3.1-70B-Instruct. Я думаю, что мое тестирование прошло успешно. Эта модель без цензуры. Вы несете ответственность за все, что вы с ним делаете. Эта модель была разработана для ролевых игр и рассказывания историй, и я думаю, что она хорошо справляется с обоими задачами. Он также может хорошо справляться с другими задачами, но я не проверял его производительность в других областях. Я рекомендую использовать квадратичную выборку (т. е. коэффициент сглаживания) для творческой работы. Я думаю, что эта версия работает лучше всего с коэффициентом сглаживания, близким к 0,2. Я рекомендую использовать Min-P. Поэкспериментируйте, чтобы найти наилучшие настройки. Рекомендуются значения от 0 до 0,1. Штраф за повторение DRY устраняет необходимость в других настройках предотвращения повторения. Если вы используете Textgen WebUI в качестве серверной части, я рекомендую включить настройки семплера DRY, чтобы уменьшить количество повторений, в противном случае некоторый штраф за повторение плюс штраф за частоту должны помочь. Поэкспериментируйте с любыми настройками ниже! Что подходит…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: sophosympatheia
Теги: llama, mergekit, merge, Not-for-all-Audiences, conversational, text-generation-inference, endpoints_compatible
Лайков: 32 | Загрузок: 198
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
