Эта версия работает значительно лучше, чем версия 16b. Эта модель представляет собой объединение трех самообъединенных моделей на основе солнечной энергии в конфигурации 14b (64 слоя). Результатом этого «франкен-слияния» является модель среднего размера, содержащая то, что я считаю лучшими солнечными настройками. Mergefuel: — Sao10K/Fimbulvetr-11B-v2 — Sao10K/Solstice-11B-v1 — TheDrummer/Moistral-11B-v1 Эта модель не подвергается цензуре и способна генерировать нежелательные материалы. Однако это не модель NSFW, и, по моему опыту, она никогда не «выходила из-под контроля» и не пыталась вставлять содержимое NSFW в подсказки SFW. Как и в случае с любым LLM, никакие фактические утверждения, содержащиеся в модели, не следует принимать за чистую монету. Вы знаете шаблонное заявление об отказе от ответственности, которое есть у большинства профессиональных моделей? Предположим, что это тоже есть. Эта модель предназначена только для развлекательных целей. iMatrix GGUF: https://huggingface.co/MarsupialAI/SkunkApe-14biMatrixGGUF По мнению Toasty Pigeon, FM, Akai и, возможно, других участников дискорда KAI, этот метод слияния работает лучше, чем обычное многоуровневое слияние. Я не претендую на то, чтобы понять почему, но огромное улучшение PPL (5,96 для этой модели против 7,65 для 16b @ Q4km) указывает на то, что они правы. Видеть…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MarsupialAI
Теги: llama, solar, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
