11 апреля @HuggingFaceH4 выпустил доработанную модель под названием HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1, основанную на модели Mixtral-8x22B-v0.1. — Тип модели: модель «Смесь экспертов» (MoE) с 141 млрд общих параметров и 35 млрд активных параметров. Точная настройка на основе общедоступных синтетических наборов данных. — Язык(и) (НЛП): Преимущественно английский. — Лицензия: Apache 2.0 — Точная настройка по модели: mistral-community/Mixtral-8x22B-v0.1 llamaloadmodelfromfile определит количество файлов и загрузит дополнительные тензоры из остальных файлов.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MaziyarPanahi
Теги: GGUF, gguf, orpo, quantized, 2-bit, 3-bit, 4-bit, 5-bit
Лайков: 29 | Загрузок: 518
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
