Обновление от 16.01.24: NeuralBeagle14-7B — (вероятно) лучшая модель 7B, которую вы можете найти! 🎉 NeuralBeagle14-7B is a DPO fine-tune of mlabonne/Beagle14-7B using the argilla/distilabel-intel-orca-dpo-pairs preference dataset and my DPO notebook from this article. Он основан на слиянии следующих моделей с использованием LazyMergekit: fblgit/UNA-TheBeagle-7b-v1, на основе репозитория jondurbin, и jondurbin/bagel-v0.3 argilla/distilabeled-Marcoro14-7B-slerp, на основе mlabonne/Marcoro14-7B-slerp. Спасибо Argilla за предоставленный набор данных и рецепт обучения. здесь. 💪 В данной модели используется контекстное окно размером 8к. Он совместим с различными шаблонами, такими как Chatml и шаблон чата Llama. По сравнению с другими моделями 7B он демонстрирует хорошие результаты в выполнении инструкций и рассуждениях. Его также можно использовать для ролевых игр и рассказывания историй. GGUF: https://huggingface.co/mlabonne/NeuralBeagle14-7B-GGUF GPTQ: https://huggingface.co/TheBloke/NeuralBeagle14-7B-GPTQ AWQ: https://huggingface.co/TheBloke/NeuralBeagle14-7B-AWQ EXL2: https://huggingface.co/LoneStriker/NeuralBeagle14-7B-8.0bpw-h8-exl2 NeuralBeagle14-7B занимает первое место в таблице лидеров Open LLM в категории ~7B. Он имеет тот же средний балл, что и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlabonne
Теги: mistral, merge, mergekit, lazymergekit, dpo, rlhf, conversational, model-index
Лайков: 157 | Загрузок: 128
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
