Представляем эксперимент Model Stock, сочетающий в себе уникальные преимущества следующих моделей Mixtral 8x7b: Tess-2.0-Mixtral-8x7B-v0.2 / migtissera / General Purpose Typhon-Mixtral-v1 / Sao10K / Creative & Story Completion OpenGpt48x7Bv0.2 / rombodawg / Conversational Weighted (iMat) GGUFS: https://huggingface.co/Quant-Cartel/TeTO-MS-8x7b-iMat-GGUF EXL2 rpcal любезно предоставлен Quant Cartel: https://huggingface.co/Quant-Cartel/TeTO-MS-8x7b-exl2-rpcal Базовый: формат Alpaca Расширенный: см. настройки context/instruct/sampler в нашем новом репозитории рекомендуемых настроек. * Огромное спасибо rAIfle за его оригинальную работу над шаблонами Wizard 8x22b, которые были модифицированы для этой модели. > [I]Инновационный метод послойного усреднения веса превосходит современные методы моделирования, такие как Model Soup, поскольку использует только две точно настроенные модели. Эту стратегию можно назвать «Модельным запасом», подчеркивая ее зависимость от выбора минимального количества моделей для построения более оптимизированной усредненной модели (из arXiv:2403.19522). Методология и процесс слияния были основаны на следующей статье — «Модельный запас: все, что нам нужно, это всего лишь несколько точно настроенных моделей». Первоначальный выбор модели был основан на наиболее эффективных моделях Mixtral…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: InferenceIllusionist
Теги: mixtral, conversational, merge, mergekit, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
