Llama-3.2-8X3B-MOE-Dark-Champion-Instruct-uncensored-abliterated-18.4B Этот репозиторий содержит исходный код полной точности в формате «безопасных тензоров» для генерации GGUF, GPTQ, EXL2, AWQ, HQQ и других форматов. Исходный код также можно использовать напрямую. Если вы хотите изменить набор экспертов «по умолчанию», измените «config.json»: пользователь все равно сможет изменить его, если в приложении LLM/AI есть опция настройки для этого. Каждый раз, когда вы добавляете/удаляете эксперта, скорость токена в секунду будет меняться. ВАЖНО: Настройки высочайшего качества / Руководство по оптимальной эксплуатации / Параметры и пробоотборники. Если вы собираетесь использовать эту модель (источник, GGUF или другой количественный анализ), просмотрите этот документ, чтобы узнать о критических параметрах, пробоотборнике и дополнительных настройках пробоотборника (для нескольких приложений AI/LLM). Информацию обо всех настройках, используемых для этой модели (включая особенности ее «класса»), включая генерацию примеров и руководство по расширенным настройкам (которое часто решает любые проблемы модели), включая методы улучшения производительности модели для всех вариантов использования, а также чата, ролевых игр и других вариантов использования (особенно для вариантов использования, выходящих за рамки конструкции модели), см.: […
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: DavidAU
Теги: mixtral, mergekit, merge, llama-3, llama-3.2, conversational, text-generation-inference, endpoints_compatible
Лайков: 25 | Загрузок: 361
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
