GGUF квантование Doctor-Shotgun/MS3.1-24B-Magnum-Diamond с использованием llama.cpp. Эта модель соответствует формату подсказки Mistral v7 Tekken. Предварительное заполнение является необязательным, но рекомендуется в настройках ролевой игры — свяжитесь с ним и найдите свои предпочтения. Типичный вход будет выглядеть следующим образом: многие библиотеки вывода имеют возможность автоматически добавлять токен BOS. Обратите внимание, что я включил примеры диалогов в качестве блока в строку истории, поэтому вы должны установить для поведения примера чата значение Никогда не включать примеры на вкладке настроек, если вы хотите использовать мой пресет. Настройте по своему вкусу или используйте любую другую предустановку, совместимую с Mistral v7 Tekken, которую вы предпочитаете. Предварительное заполнение (префикс последнего помощника) может быть изменено по вашему вкусу. SillyTavern JSON — Magnum Mistral v7 Tekken No Names Prefill Спасибо kalomaze за предоставление вычислительной машины, используемой для обучения. Благодарим PocketDoc за расширенную стратегию быстрого построения. Благодарим Delta-Vector и Intervitens за тестирование на 12B. Спасибо Gryphe за его советы по обучению rsLoRA из его опыта обучения его собственных отличных моделей. Спасибо Sao10K за то, что вдохновили серию Magnum своей линейкой моделей Euryale. Своей неустанной работой…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DS-Archive
Теги: gguf, chat, en, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 295
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
