Vistral — это наша новая флагманская унимодальная LLM (Large Language Model), представляющая из себя улучшенную версию mistralai/Mistral-Small-3.2-24B-Instruct-2506 командой VikhrModels, адаптированную стандарт для русского и английского языков. Удалён визуальный энкодер, убрана мультимодальность. Сохранена стандартная архитектура «MistralForCausalLM» без изменений в состоянии ожидания модели. Полностью использованный основной код для обучения доступен в нашем репозитории effectllmalignment на GitHub, а наборы дат доступны в нашем профиле на HF. — GGUF Вихрмоделс/Vistral-24B-Instruct-GGUF — MLX — 4 бит Вихрмоделс/Vistral-24B-Instruct-MLX4bit — 8 бит Вихрмоделс/Vistral-24B-Instruct-MLX8bit Модель измерена на нашем русскоязычном бенчмарке SbS с открытым исходным кодом ru-arena-general Запуск vLLM сервера: vllm service —dtype half —max-model-len 32000 -tp 1 Vikhrmodels/Vistral-24B-Instruct —api-key token-abc123 «Гарри Поттер» — эта серия фантастических романов Дж. К. Роулинг о мальчике-волшебнике, который знает, что он сын могущественных магов, и отправляется учиться в школу чародейства и волшебства Хогвартс. В первом томе («Гарри Поттер и философский камень») Гарри знакомится с друзьями…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Vikhrmodels
Теги: mistral, conversational, en, ru, text-generation-inference, endpoints_compatible
Лайков: 20 | Загрузок: 372
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
