ВНИМАНИЕ: НФВ. Яркая проза. ИНТЕНСИВНЫЙ. Интуитивные детали. УЖАС. Ругаясь. БЕЗ ЦЕНЗУРЫ… юмор, романтика, веселье. Это модель Mistral, максимальный контекст 32k (32768), с использованием группы экспертов для объединения ЧЕТЫРЕХ лучших моделей Mistral 7B в одну огромную электростанцию с параметрами 24B (равными 28B — 4 X 7 B). Все используемые модели не подвергаются цензуре, и эта специфическая комбинация моделей дает необычайно яркую и насыщенную прозу без «фиолетовых» элементов прозы и без «преувеличений» / «тявканья», характерных для других моделей ИИ. Следование инструкциям этой модели и создание результатов для творческого письма, прозы, художественной литературы и ролевых игр являются исключительными. И это быстро: более 30 т/с (2 эксперта) на младшей карте объемом 16 ГБ IQ4XS. Эту модель также можно использовать для общего использования, однако ее выходные данные могут не подвергаться цензуре. Эта модель была разработана как относительно пуленепробиваемая и работает со всеми параметрами, включая настройки температуры от 0 до 5. Это необычная сжатая модель с очень низким уровнем сложности (ниже, чем Meta Llama3 Instruct). Для этого требуется шаблон Llama3, Mistral, Alpaca и/или шаблон «Command-R». Несколько подсказок и результатов ниже, включая активацию 1, 2, 3 и 4 экспертов. — Деталь,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, mixture of experts, moe, 4x7B, mistral MOE, uncensored, creative, creative writing
Лайков: 7 | Загрузок: 488
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
