SherlockAssistant/Mistral-7B-Instruct-Ukrainian - Каталог нейросетей
Генерация текста

SherlockAssistant/Mistral-7B-Instruct-Ukrainian

Добавлено:
SherlockAssistant/Mistral-7B-Instruct-Ukrainian

Мистраль-7Б-УК — это большая языковая модель, доработанная под украинский язык. Обучение Мистраль-7Б-УК осуществляется по следующей формуле: 1. Первоначальная доводка Мистраль-7Б-v0.2 с использованием структурированных и неструктурированных наборов данных. 2. Объединение SLERP точно настроенной модели с моделью, которая работает лучше, чем Mistral-7B-v0.2 в тесте OpenLLM: NeuralTrix-7B 3. DPO окончательной модели. Чтобы использовать точную настройку инструкций, ваше приглашение должно быть окружено токенами [INST] и [/INST]. Этот формат доступен в виде шаблона чата с помощью метода applychattemplate(): Эта модель инструкций основана на Mistral-7B-v0.2, модели преобразователя со следующими вариантами архитектуры: — Внимание группового запроса — Внимание скользящего окна — Байтовый резервный токенизатор BPE — UA-SQUAD — Украинский StackExchange — Набор данных UAlpaca — Украинский подмножество из набора данных Belebele — Украинский подмножество из XQA — Предоставленный набор данных ZNO в общей задаче UNLP 2024. Если вы используете эту модель в своих исследованиях и публикуете статью, пожалуйста, помогите, процитировав нашу статью: Борос Т., Чиверяну Р., Думитреску С. и Пуркару О. (2024). Точная настройка и поиск расширенной генерации ответов на вопросы с использованием доступного большого языка…

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям


Задача: Генерация текста
Автор: SherlockAssistant
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 22  |  Загрузок: 78

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.