Квантование GGUF Doctor-Shotgun/MS3.2-24B-Magnum-Diamond с использованием llama.cpp. Эта модель соответствует формату подсказок Mistral v7 Tekken. Предварительное заполнение не является обязательным, но рекомендуется в настройках ролевой игры — поиграйтесь с ним и найдите свои предпочтения. Типичный ввод будет выглядеть так: Многие библиотеки вывода имеют возможность автоматически добавлять токен BOS. Обратите внимание, что я включил примеры диалогов в виде блока в строку истории, поэтому вам следует установить для примера поведения чата значение «Никогда не включать примеры» на вкладке настроек, если вы хотите использовать мою предустановку. Настройте по своему вкусу или используйте любой другой пресет, совместимый с Mistral v7 Tekken, который вы предпочитаете. Префилл (префикс последнего помощника) можно изменить по своему вкусу. SillyTavern JSON — Magnum Mistral v7 Tekken Без имен. Предварительное заполнение Благодарим Gum1h0x (X/HF) за предоставленные вычислительные данные, используемые для обучения. Спасибо PocketDoc за передовую стратегию создания подсказок. Спасибо Дельта-Вектору и Intervitens за тестирование на 12Б. Спасибо Грифу за его советы по обучению rsLoRA, основанные на его опыте обучения собственных отличных моделей. Спасибо Sao10K за вдохновение серии Magnum своей линейкой моделей Euryale. Своим неутомимым…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Doctor-Shotgun
Теги: gguf, chat, en, endpoints_compatible, conversational
Лайков: 22 | Загрузок: 3,134
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
