Квантованная версия немецко-английской языковой модели malteos hermeo-7b, объединенная с DPOpenHermes-7B-v2 и leo-mistral-hessianai-7b-chat с помощью mergekit. Обе базовые модели представляют собой доработанные версии Мистраля-7Б-v0.1. — Квантовано из: hermeo-7b — Объединено из: leo-mistral-hessianai-7b-chat и DPOpenHermes-7B-v2 — Тип модели: языковая модель преобразователя, предназначенная только для декодера — Языки: английский и немецкий — Лицензия: Apache 2.0 — Трансформаторы из коммита 72958fcd3c98a7afdc61f953aa58c544ebda2f79 — AutoAWQ из фиксации 1c5ccc791fa2cb0697db3b4070df1813f1736208. В настоящее время вы можете использовать эту модель с помощью AutoAWQForCausalLM. Вывод также должен быть возможен с помощью конвейера преобразователей, но AutoAWQ пока не поддерживает его. — Этот выпуск модели во многом вдохновлен Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp. — Спасибо авторам базовых моделей: Mistral, LAION, HessianAI, Open Access AI Collective, @teknium, @bjoernp. — Были использованы немецкие оценочные наборы данных и скрипты от @bjoernp. — Для оценки использовались вычислительные ресурсы кластера PEGASUS DFKI. Соблюдается методология оценки Open LLM Leaderboard. Входные данные модели могут содержать несколько разговоров…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mayflowergmbh
Теги: mistral, en, de, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 6 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
