> [!WARNING] > Эта контрольная точка модели предоставляется «как есть» и может быть неактуальной. Пожалуйста, используйте соответствующую версию с https://huggingface.co/mistralai org > [!TIP] > MistralAI также загрузил веса в свою организацию по адресам mistralai/Mixtral-8x22B-v0.1 и mistralai/Mixtral-8x22B-Instruct-v0.1. > [!TIP] > Спасибо @v2ray за преобразование контрольных точек и загрузку их в формате, совместимом с трансформерами. Иди, подпишись на них! Преобразовано в формат HuggingFace Transformers с помощью скрипта здесь. Модель большого языка Mixtral-8x22B (LLM) представляет собой предварительно обученную генеративную разреженную смесь экспертов. По умолчанию трансформеры загружают модель с полной точностью. Поэтому вам может быть интересно еще больше снизить требования к памяти для запуска модели с помощью оптимизаций, которые мы предлагаем в экосистеме HF: Примечание. Точность float16 работает только на устройствах с графическим процессором. Нажмите, чтобы развернуть Mixtral-8x22B-v0.1 — это предварительно обученная базовая модель и, следовательно, не имеет каких-либо механизмов модерации. Альбер Цзян, Александр Саблероль, Алексис Такне, Антуан Ру, Артур Менш, Одри Херблин-Ступ, Батист Бут, Бодуэн де Монико, Бланш Савари, Bam4d, Кэролайн Фельдман, Девендра Сингх Шаплот,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mistral-community
Теги: mixtral, moe, fr, it, de, es, en, model-index
Лайков: 672 | Загрузок: 294
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
