Представляем SauerkrautLM-7b-HerO – вершину технологии немецкоязычных моделей! Создан путем слияния OpenHermes-2.5-Mistral-7B от Teknium и Mistral-7B-OpenOrca от Open-Orca и уникально настроен с набором данных Sauerkraut. SauerkrautLM-7b-HerO представляет собой прорыв в языковом моделировании, обеспечивающий оптимальный баланс между обширными немецкими данными и важными международными источниками. Это гарантирует, что модель не только преуспеет в понимании нюансов немецкого языка, но и сохранит свои глобальные возможности. Используя инновационную мощь градиентного метода SLERP от MergeKit, мы достигли новаторского слияния двух самых эффективных моделей 7B на основе платформы Mistral. Это слияние позволило нам объединить лучшие черты обеих моделей, создав беспрецедентную синергию. В сочетании с набором данных немецкой квашеной капусты, который состоит из смеси дополненных и переведенных данных, мы успешно обучили англоязычную объединенную модель тонкостям немецкого языка. Это было достигнуто без типичной потери основных компетенций, часто связанных с тонкой настройкой на другом языке моделей, ранее обученных в основном…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: eramax
Теги: gguf, mistral, finetune, chatml, augmentation, german, en, de
Лайков: 3 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.