На данный момент вторая лучшая модель в категории ~7B (на самом деле ближе к ~9B) в таблице лидеров Hugging Face! Дополнительную информацию о создании модели можно найти здесь: 🔗Не прекращайте оптимизацию DP! Автор: Ян Коцонь 🔗LinkedIn 🔗Google Scholar 🔗ResearchGate Модель «Neuronovo/neuronovo-9B-v0.2» представляет собой усовершенствованную и доработанную версию большой языковой модели, первоначально основанной на «CultriX/MistralTrix-v1». Несколько ключевых характеристик и особенностей этой модели: 1. Набор обучающих данных. Модель обучается на наборе данных под названием «Intel/orcadpopairs», вероятно, специализированном для сценариев диалога и взаимодействия. Этот набор данных отформатирован так, чтобы различать системные сообщения, пользовательские запросы, выбранные и отклоненные ответы, что указывает на то, что основное внимание уделяется пониманию естественного языка и генерации ответов в разговорных контекстах. 2. Токенизатор и форматирование. Он использует токенизатор из модели «CultriX/MistralTrix-v1», настроенный для заполнения токенов слева и использования токена конца последовательности в качестве заполняющего токена. Это предполагает сосредоточение внимания на задачах генерации языка, особенно в диалоговых системах. 3. Конфигурация адаптации низкого ранга (LoRA): модель…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Neuronovo
Теги: mistral, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
