Будем надеяться, что это последняя итерация Magnum, построенная на базе мета-ламы/Llama-3.3-70B-Instruct (хотя нам еще предстоит посмотреть, сколько времени потребуется, чтобы выпустить новую модель с открытым весом в том же диапазоне размеров…). Он состоит из нескольких отдельных тонких настроек rsLoRA, объединенных с помощью mergekit с целью сгладить их соответствующие особенности. Эта модель должна корректно работать как с добавлением имен персонажей, так и без него, а также с предварительным заполнением или без него. Целью, как и в случае с другими моделями Magnum, является подражание стилю и качеству прозы серии моделей Claude 3 Sonnet/Opus в местном масштабе, поэтому не удивляйтесь, увидев «Клодизмы» в ее продукции. Эта модель соответствует формату приглашений Llama 3. Предварительное заполнение не является обязательным, но рекомендуется в настройках ролевой игры — поиграйтесь с ним и найдите свои предпочтения. Типичный ввод будет выглядеть так: Многие библиотеки вывода имеют возможность автоматически добавлять токен BOS. Обратите внимание, что я включил примеры диалогов в виде блока в строку истории, поэтому вам следует установить для примера поведения чата значение «Никогда не включать примеры» на вкладке настроек, если вы хотите использовать мою предустановку. Настройте по своему вкусу или используйте любой другой пресет, совместимый с Llama 3…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DS-Archive
Теги: llama, mergekit, merge, chat, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
