Это не подвергнутый цензуре, глубоко продуманный Ernie 21B-A3B (MOE, 64 эксперта) тонкая настройка с использованием набора данных рассуждений GLM 4.7 Flash через Unsloth через локальное оборудование, Linux (для Windows). Обратите внимание, что эта модель в основном не подвергается цензуре прямо с «фабрики», так сказать. Модель преуспевает в творчестве (мозговой штурм, творческая проза), а также в общем использовании. Рассуждения компактные, но подробные (очень подробные) и прямо в «точку», так сказать. КРИТИЧЕСКИЕ НАСТРОЙКИ: — для творческой работы предложите REP Pen от 1,01 до 1,1 — для общей работы REP Pen от 1 (OFF), 1,05 или 1,1 — Нижние кванты МОГУТ в некоторых случаях ЗАЦИКЛИВАТЬСЯ. Рассуждения влияют на: — общую работу модели. — Генерация выходных данных — Бенчмарки — Особенности модели: — Контекст 128k — Диапазон температур от 0,1 до 2,5. — Рассуждения стабильны по температуре. Вы можете посетить репозиторий Baidu для этой модели для тестов и настроек root/core. Настройки: ЧАТ / РОЛЕВАЯ ИГРА и/или БОЛЕЕ ПЛАВНАЯ работа этой модели: в «KoboldCpp» или «oobabooga/text-generation-webui» или «Silly Tavern» ; -> при использовании GGUF необходимо использовать «llama_HF» (что предполагает загрузку некоторых конфигурационных файлов из ИСХОДНОЙ версии этой модели)…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: ernie4_5_moe, mixture of experts, moe, 64 experts, uncensored, unsloth, finetune, All use cases
Лайков: 4 | Загрузок: 82
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
