L3-8B-Stheno-2x8B-MoE is a Mixture of Experts (MoE) made with the following models using LazyMergekit: Sao10K/L3-8B-Stheno-v3.2 Sao10K/L3-8B-Stheno-v3.1
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: jsfs11
Теги: mixtral, moe, frankenmoe, merge, mergekit, lazymergekit, Sao10K/L3-8B-Stheno-v3.2, Sao10K/L3-8B-Stheno-v3.1
Лайков: 3 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это модель на основе Mistral, состоящая из слияния HuggingFaceH4/zephyr-7b-alpha и адаптера PEFT, обученного с использованием набора данных LimaRP....
0. TL;DR 1. Подробности модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработано: https://www.tii.ae —...
Иматричное квантование Llama.cpp deepseek-ai/DeepSeek-Coder-V2-Instruct Исходная модель: deepseek-ai/DeepSeek-Coder-V2-Instruct Исходный тип dtype: BF16 (bfloat16) Квантование: llama.cpp b3166 Набор данных IMatrix:...
Этот репозиторий содержит DISC-MedLLM, версию базы Baichuan-13b в качестве базовой модели. Обратите внимание, что из-за продолжающейся разработки проекта...
