Zero-Mistral-24B — это улучшенная ТЕКСТОВАЯ версия mistralai/Mistral-Small-3.1-24B-Instruct-2503, адаптированная в первую очередь для русского и английского языков. Оригинальная модель Mistral содержит функции обзора, которые были удалены из этой модели. Обучение включало этап SFT, в основном на наборе данных Big Russian Dataset и собственном наборе данных из Shkolkovo.online. Модель обладает хорошими математическими способностями и некоторыми способностями к рассуждению. Модель сохраняет оригинальные возможности длинного контекста Mistral до 128 тыс. токенов. — Разработано: ZeroAgency.ru — При финансовой поддержке: ZeroAgency.ru и Shkolkovo.online — Размещено: Александр Кожевников (разработчик) — Тип модели: LLM — Язык(и) (NLP): Русский, английский — Лицензия: MIT — Доработано на основе модели: mistralai/Mistral-Small-3.1-24B-Instruct-2503 — Объединенная 16-битная версия — исходная 16-битная объединенная версия для трансформаторов. — GGUF — разные версии GGUF: BF16, F16, Q80, Q6K, Q4KM, IQ4_XS и т.д. Модель может использоваться со следующими фреймворками; — vllm: см. здесь — преобразователи: см. здесь — llama.cpp: см. здесь Мы рекомендуем использовать эту модель с библиотекой vLLM для реализации готовых к использованию конвейеров вывода. Примечание 1: Мы рекомендуем использовать относительно низкую температуру, например…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ZeroAgency
Теги: mistral, chat, conversational, ru, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
