Minueza-32M-Base — базовая модель с 32 миллионами параметров, обученная с нуля на большом корпусе текста на английском языке. Он доступен в следующих форматах: Safetensors, GGUF и ONNX. И он выпускается вместе с некоторыми доработанными версиями: — Minueza-32M-UltraChat: обучен на одном наборе разговорных данных. — Минуэза-32М-Чат: обучение проводилось на наборах разговорных данных. — Minueza-32Mx2-Chat: редкая смесь экспертов, обученных на чередующихся наборах разговорных данных. — И еще… Эта модель была создана со следующими целями: — Запуск в мобильных веб-браузерах через Transformers.js. — Работайте быстро на машинах без графического процессора. — Служить основой для тонкой настройки с использованием формата ChatML, поэтому используются два дополнительных специальных токена ( и ) с ` как токен EOS по умолчанию. — ChatML отлично работает как с моделями инструкций, так и с моделями чата, поэтому, если все точные настройки выполняются по шаблону ChatML, другие пользователи могут получить выгоду от простоты создания слияний. Модель была обучена на подмножестве каждого из следующих несинтетических наборов данных: — Skylion007/openwebtext — c4 — wikimedia/wikipedia — 20231101.simple — tiiuae/falcon-refinedweb — izumi-lab/open-text-books -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Felladrin
Теги: mistral, pretrained, conversational, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 19 | Загрузок: 591
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
