unsloth/Magistral-Small-2506-unsloth-bnb-4bit - Каталог нейросетей
Генерация текста

unsloth/Magistral-Small-2506-unsloth-bnb-4bit

Добавлено:
unsloth/Magistral-Small-2506-unsloth-bnb-4bit

— Настройте Mistral v0.3 (7B) бесплатно, используя наш ноутбук Google Colab здесь — Conversational.ipynb)! — Ознакомьтесь с нашим Блогом о поддержке Magistral: docs.unsloth.ai/basics/magistral — Ознакомьтесь с остальными записными книжками в наших документах здесь. Основанная на Mistral Small 3.1 (2503), с дополнительными возможностями рассуждений, проходящей SFT от трасс Magistral Medium и RL сверху, это небольшая эффективная модель рассуждений с параметрами 24B. Magistral Small можно развернуть локально, установив в одном RTX 4090 или 32 ГБ ОЗУ MacBook после квантования. — Рассуждение: Способен к длинным цепочкам рассуждений, прежде чем дать ответ. — Многоязычный: поддерживает десятки языков, включая английский, французский, немецкий, греческий, хинди, индонезийский, итальянский, японский, корейский, малайский, непальский, польский, португальский, румынский, русский, сербский, испанский, шведский, турецкий, украинский, вьетнамский, арабский, бенгальский, китайский и фарси. — Лицензия Apache 2.0: Открытая лицензия, разрешающая использование и модификацию как в коммерческих, так и в некоммерческих целях. — Окно контекста: Окно контекста 128k, но производительность может ухудшиться после 40k. Поэтому мы рекомендуем установить максимальную длину модели на 40K. Пожалуйста, не забудьте использовать: — TOPP: 0,95 -…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: unsloth
Теги: mistral, unsloth, text2text-generation, conversational, en, fr, de, es
Лайков: 4  |  Загрузок: 237

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.