Эта модель представляет собой экспериментальный ИИ, обученный на трех различных наборах данных с упором на логические рассуждения, математику и программирование. Процесс обучения включал тонкую настройку от последнего слоя (31) назад с постепенно уменьшающейся скоростью обучения. Основная цель — устранить распространенную ошибку INSTINST, наблюдаемую в моделях таблиц лидеров, посредством целевого обучения на последних слоях. — microsoft/orca-math-word-problems-200k: крупномасштабный набор данных математических словесных задач, направленный на улучшение возможностей модели по численному рассуждению и решению проблем. — ise-uiuc/Magicoder-Evol-Instruct-110K: набор данных, предназначенный для улучшения генерации и понимания кода, что способствует владению моделью языком программирования. — sahil2801/CodeAlpaca-20k: набор данных, посвященный задачам программирования для дальнейшего совершенствования навыков кодирования модели и логического рассуждения. Каждый набор данных внес в процесс обучения 20 000 точек данных, обеспечивая сбалансированное представление задач по логике, математике и программированию. — Модель была обучена в бесплатной среде графического процессора Kaggle, что позволяет проводить экономичную точную настройку и экспериментирование. — Пользователи, заинтересованные в воспроизведении или расширении…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: Kukedlc
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 8,250
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
