ВНИМАНИЕ: НФВ. Яркая проза. ИНТЕНСИВНЫЙ. Интуитивные детали. Светлый УЖАС. Ругаясь. БЕЗ ЦЕНЗУРЫ… юмор, романтика, веселье. Версии NEW HERETIC L3.2 (ablit, процент отказов 9,25/100): [24B-A3B || 30B-A3B ] Llama-3.2-8X3B-MOE-Dark-Champion-Instruct-uncensored-abliterated-18.4B-GGUF Это модель LLama 3.2, максимальный контекст 128 КБ (131 000), с использованием смеси экспертов для объединения ВОСЕМЬ лучших моделей L3.2 3B в одну огромную электростанцию с параметрами 18,4B (равными 24Б – 8 Х 3Б). Следование инструкциям этой модели и создание результатов для творческого письма, прозы, художественной литературы и ролевых игр являются исключительными. И это быстро: более 50 т/с (2 эксперта) на младшей карте объемом 16 ГБ IQ4XS. НОВИНКА: Версия 2 рассчитана с использованием новейшей версии Llamacpp, в которой Brainstorm 5x внедрен во все 8 моделей (создание 8X4B MOE) и обработана на основе файлов float 32, расположенных здесь: [ https://huggingface.co/DavidAU/Llama-3.2-8X4B-MOE-V2-Dark-Champion-Instruct-uncensored-abliterated-21B-GGUF ] НОВИНКА: рассуждения «Темного Чемпиона» уже здесь, с MOE GATING (непосредственно экспертами по доступу/контролю), освоенными в float32 (32-разрядной версии) с улучшенными квантовами: […
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, mixture of experts, moe, 8x3B, Llama 3.2 MOE, 128k context, creative, creative writing
Лайков: 504 | Загрузок: 62,561
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
