Это Гермес-2-Про-Мистраль-10.7Б, увеличенная по глубине версия NousResearch/Гермес-2-Про-Мистраль-7Б. Эта модель предназначена для использования в качестве основы для дальнейшей точной настройки или в качестве дополнения к исходной модели с 7 миллиардами параметров. Документ, подробно описывающий, как работает масштабирование с увеличением глубины: SOLAR 10.7B: Масштабирование больших языковых моделей с помощью простого, но эффективного увеличения глубины. Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. В объединение были включены следующие модели: * /Users/jsarnecki/opt/workspace/NousResearch/Hermes-2-Pro-Mistral-7B Для создания этой модели использовалась следующая конфигурация YAML: https://huggingface.co/bartowski/Hermes-2-Pro-Mistral-10.7B-GGUF https://huggingface.co/bartowski/Hermes-2-Pro-Mistral-10.7B-exl2 https://huggingface.co/blockblockblock/Hermes-2-Pro-Mistral-10.7B-bpw2.5 https://huggingface.co/blockblockblock/Hermes-2-Pro-Mistral-10.7B-bpw3 https://huggingface.co/blockblockblock/Hermes-2-Pro-Mistral-10.7B-bpw3.5 https://huggingface.co/blockblockblock/Hermes-2-Pro-Mistral-10.7B-bpw3.7 https://huggingface.co/blockblockblock/Hermes-2-Pro-Mistral-10.7B-bpw4 https://huggingface.co/blockblockblock/Hermes-2-Pro-Mistral-10.7B-bpw4.2…
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: Joseph717171
Теги: mistral, mergekit, merge, Mistral, instruct, finetune, chatml, DPO
Лайков: 4 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.