Mistral AI наконец-то передал официальной организации Mistral AI гири с базовой моделью и инструктирующей настройкой. mistralai/Mixtral-8x22B-v0.1 и mistralai/Mixtral-8x22B-Instruct-v0.1 Сотрудники HuggingFace клонировали этот репозиторий в новый официальный репозиторий mistral-community/Mixtral-8x22B-v0.1, вы можете скачать его оттуда, если хотите. Спасибо сотрудникам HF за похвалу! А еще здесь очень классная музыка! owo… Преобразовано в формат HuggingFace Transformers с помощью скрипта здесь. Модель большого языка Mixtral-8x22B (LLM) представляет собой предварительно обученную генеративную разреженную смесь экспертов. По умолчанию трансформеры загружают модель с полной точностью. Поэтому вам может быть интересно еще больше снизить требования к памяти для запуска модели с помощью оптимизаций, которые мы предлагаем в экосистеме HF: Примечание. Точность float16 работает только на устройствах с графическим процессором. Нажмите, чтобы развернуть Mixtral-8x22B-v0.1 — это предварительно обученная базовая модель и, следовательно, не имеет каких-либо механизмов модерации. Альбер Цзян, Александр Саблероль, Алексис Такне, Антуан Ру, Артур Менш, Одри Херблин-Ступ, Батист Бут, Бодуэн де Моноко, Бланш Савари, Bam4d, Кэролайн Фельдман, Девендра Сингх Чаплот, Диего де лас Касас,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: v2ray
Теги: mixtral, moe, fr, it, de, es, en, text-generation-inference
Лайков: 142 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
