Dicta-LM 3.0 — это мощная открытая коллекция LLM, обученная на обширных корпусах текстов на иврите и английском языке. Модели доступны для скачивания и неограниченного использования. Модели установили новый SOTA для своей весовой категории для иврита, как в качестве базовых моделей, так и в качестве моделей для чата. Это наша флагманская модель, модель рассуждения с 24 миллиардами параметров и полной точностью (BF16), первоначально инициализированная из Mistral-Small-3.1-24B-Base-2503. Эта модель представляет собой модель чата рассуждений. Это означает, что прежде чем ответить на любое сообщение пользователя, модель сначала продумывает правильный способ ответа в назначенном блоке мышления. Подробную информацию об этой модели можно найти в нашем блоге или в техническом отчете. Вы можете просмотреть и получить доступ к полной коллекции базовых/инструктированных неквантованных/квантованных версий DictaLM 3.0 здесь. Чтобы использовать точную настройку инструкций, ваше приглашение должно отображаться с использованием шаблона чата, указанного для этой модели. Большинство библиотек делают это автоматически, поэтому вы можете просто позволить им сделать это. Мы рекомендуем использовать vLLM, но вы также можете использовать Transformers: > Следы рассуждений должны быть доступны в структуре ответа в назначенном поле. Модель…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: dicta-il
Теги: pretrained, en, he
Лайков: 9 | Загрузок: 792
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
