Эта модель была создана путем слияния Locutusque/TinyMistral-248M-Instruct и Felladrin/TinyMistral-248M-SFT-v4 с использованием mergekit. После объединения двух моделей полученная модель была дополнительно обучена на ~20 000 примерах на Locutusque/instmixv2top100k с низкой скоростью обучения для дальнейшей нормализации весов. Ниже представлена конфигурация YAML, использованная для слияния: Полученная модель сочетает в себе лучшее из обоих миров. С возможностями кодирования и рассуждения Locutusque/TinyMistral-248M-Instruct, а также с низким уровнем галлюцинаций и способностью следовать инструкциям Felladrin/TinyMistral-248M-SFT-v4. Получившаяся модель обладает невероятной производительностью, учитывая ее размер.
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: Locutusque
Теги: mistral, merge, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 444
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
