ВНИМАНИЕ: версия «ЕРЕТИК»: разблокирована. НЕФИЛЬТРИРОВАННЫЙ. НФВ. Яркая проза. ИНТЕНСИВНЫЙ. Интуитивные детали. Светлый УЖАС. Ругаясь. БЕЗ ЦЕНЗУРЫ… юмор, романтика, веселье. Llama3.2-30B-A3B-II-Dark-Champion-INSTRUCT-Heretic-Abliterated-Uncensored Это модель LLama 3.2, максимальный контекст 128 КБ (131 000), с использованием смеси экспертов для объединения ВОСЕМЬ лучших моделей L3.2 3B в одну огромную электростанцию с параметрами 18,4B (равными 24B — 8 X 3B). Также был добавлен Brainstorm 20x, который добавил в модель 12B параметров. Каждая модель в этом моэ была децензурирована/удалена с помощью Heretic v1.0.1; в результате средний процент отказов от модели составляет 9,25/100; у некоторых моделей показатель отказов достигал 96/100, что затрудняло работу модели. Эта модель и все «эксперты» внутри нее полностью «РАЗБЛОКИРОВАНЫ», НЕ «политкорректны» и не будут «отклонять» почти все запросы. Самая высокая модель теперь имеет 12/100 отказов, а самая низкая 4/100 отказов. Все модели, включая «нецензурированные» (37/100 отказов; СЕЙЧАС 6/100) и «уничтоженные» (42/100 отказов; СЕЙЧАС 10/100) модели в этом МЧС прошли через этот процесс. Метод Heretic обеспечивает сверхнизкий процент отказов с нулевым ущербом (дивергенция KL: 0,05) для моделей. В этой версии Brainstorm 20x…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: DavidAU
Теги: mixtral, mixture of experts, moe, 8x3B, Llama 3.2 MOE, 128k context, creative, creative writing
Лайков: 13 | Загрузок: 159
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
