GGUF квантование Doctor-Shotgun/L3.3-70B-Magnum-Diamond с использованием llama.cpp. Эта модель соответствует формату подсказки Llama 3. Предварительное заполнение является необязательным, но рекомендуется в настройках ролевой игры — свяжитесь с ним и найдите свои предпочтения. Типичный вход будет выглядеть следующим образом: многие библиотеки вывода имеют возможность автоматически добавлять токен BOS. Обратите внимание, что я включил примеры диалогов в качестве блока в строку истории, поэтому вы должны установить для поведения примера чата значение Никогда не включать примеры на вкладке настроек, если вы хотите использовать мой пресет. Настройте по своему вкусу или используйте любую другую предварительную настройку, совместимую с Llama 3, которую вы предпочитаете. Предварительное заполнение (префикс последнего помощника) может быть изменено по вашему вкусу. Вычислите, оплаченные из вашего кошелька, доктор Дробовик. Благодарим PocketDoc за расширенную стратегию быстрого построения. Благодарим Delta-Vector и Intervitens за тестирование на 12B. Спасибо Gryphe за его советы по обучению rsLoRA из его опыта обучения его собственных отличных моделей. Спасибо Sao10K за то, что вдохновили серию Magnum своей линейкой моделей Euryale. Своей неустанной работой он продемонстрировал, что официальные модели, настроенные на инструктаж, могут быть смешными и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Doctor-Shotgun
Теги: gguf, chat, en, endpoints_compatible, imatrix
Лайков: 4 | Загрузок: 245
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
