DavidAU/Llama-3.2-8X3B-GATED-MOE-Reasoning-Dark-Champion-Instruct-uncensored-abliterated-18.4B-GGUF - Каталог нейросетей
Генерация текста

DavidAU/Llama-3.2-8X3B-GATED-MOE-Reasoning-Dark-Champion-Instruct-uncensored-abliterated-18.4B-GGUF

Добавлено:

ВНИМАНИЕ: НФВ. Яркая проза. ИНТЕНСИВНЫЙ. Интуитивные детали. Светлый УЖАС. Ругаясь. БЕЗ ЦЕНЗУРЫ… юмор, романтика, веселье. Llama-3.2-8X3B-GATED-MOE-Reasoning-Dark-Champion-Instruct-uncensored-abliterated-18.4B-GGUF ВАЖНО: Эта модель имеет логику включения/выключения/переменного управления из NousResearch и модели DeepHermes и требует системных подсказок, предусмотренных для запуска рассуждений/мышлений. Для достижения наилучшей производительности ознакомьтесь с инструкциями по эксплуатации ниже. Это модель LLama 3.2, максимальный контекст 128 КБ (131 000), с использованием группы экспертов для объединения ВОСЕМЬ лучших моделей L3.2 3B в одну огромную электростанцию ​​с параметрами 18,4B (что соответствует 24B — 8 X 3B). Следование инструкциям этой модели и создание результатов для творческого письма, прозы, художественной литературы и ролевых игр являются исключительными. Эта модель также является «закрытой», содержит главную модель рассуждений (ее можно включать и выключать), была построена с точностью float32 (32 бита), а кванты имеют выходной тензор на уровне Q80, с несколькими квантовами выбора на f16 (16 бит) и Q80 с f32 (32 бита). «Закрытая» структура означает, что «модель рассуждения» усиливается другими 7 моделями в MOE во время рассуждения, а затем во время генерации вывода / отсутствия рассуждения модель(и) без рассуждения…

Модальности:
Генерация текста

Области применения:
Логика и рассуждение Следование инструкциям


Задача: Генерация текста
Автор: DavidAU
Теги: gguf, reasoning, thinking, uncensored, gated, mixture of experts, moe, 8x3B
Лайков: 19  |  Загрузок: 1,049

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.