ВНИМАНИЕ: НФВ. Яркая проза. ИНТЕНСИВНЫЙ. Интуитивные детали. УЖАС. Ругаясь. БЕЗ ЦЕНЗУРЫ… юмор, романтика, веселье. Mistral-MOE-4X7B-Dark-MultiVerse-Uncensored-Enhanced32-24B-GGUF Высокоточная модель M.O.E с плавающей запятой 32, квантованная с плавающей запятой 32, а также дополнительные улучшенные и расширенные кванты. Даже Q2k (самый маленький квант) «горит ярко» за счет типа модели MOE, передачи float 32 и увеличения квантов. Это модель Mistral, максимальный контекст 32k (32768), с использованием группы экспертов для объединения ЧЕТЫРЕХ лучших моделей Mistral 7B в одну огромную электростанцию с параметрами 24B (равными 28B — 4 X 7 B). Эта версия «Enhanced32» представляет собой объединение с точностью «float 32» для более высокого качества и производительности. Если бы стандартным источником было «HD», float32 было бы «UHD». Суть заключается в гораздо более сильной модели, большей детализации, большем нюансов, большей глубине… и более строгом следовании инструкциям. Кроме того, существуют специализированные переработанные кванты с компонентами с плавающей запятой 32 в самих квантах (подробно ниже). Это позволяет вам выбирать между стандартными (но также полученными из исходного кода с плавающей запятой 32) и «расширенными квантовыми числами» для еще более высокого качества. Эта модель будет значительно превосходить оригинальную «Мистраль-МОЭ-4Х7Б-Dark-MultiVerse-24B»[…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, mixture of experts, moe, mistral, mixtral, merge, 4x7B, 32 bit enhanced
Лайков: 108 | Загрузок: 3,858
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
