Некоторые из лучших немецких моделей с параметрами 7b, полученные лазером и обученные dpo, dare_ties, сливаются. Поскольку оригинальные модели на базе мистраля — три из них на блестящем немецком LeoLM/leo-mistral-hessianai-7b — они воссоединены в этой объединенной модели. Отсюда и название, никаких правых или националистических идей здесь нет :-). Чтобы улучшить качество результатов, они обучаются dpo с помощью немецкого перевода intel-orca-dpo с использованием нашей немецкой вилки LLaMA-Factory. После этого эта модель прошла лазерную обработку с использованием немецких наборов данных. Wiedervereinigung-7b сам по себе представляет собой слияние LazyMergekit: DiscoResearch/DiscoLM German7bv1 DRXD1000/Phoenix VAGOsolutions/SauerkrautLM-7b-v1-mistral * Malteos/hermeo-7b Вся тяжелая работа была проделана создателями этих моделей.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mayflowergmbh
Теги: mistral, merge, mergekit, lazymergekit, DiscoResearch/DiscoLM_German_7b_v1, DRXD1000/Phoenix, VAGOsolutions/SauerkrautLM-7b-v1-mistral, malteos/hermeo-7b
Лайков: 14 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
