Это объединение представляет собой прививку модели, полученной из Mistral v0.1 (контекст скользящего окна 4 КБ, максимальная практическая длина контекста 8 КБ) к модели, полученной из Mistral v0.2 (длина контекста 32 КБ). Кажется, это работает, хотя веревка_theta в config.json была понижена с 1000000.0 до 100000.0, что работает достаточно хорошо до 16 КБ. При легком тестировании оказалось, что эта модель очень хорошо соответствует форматированию: температура 1,0 и minP 0,01, с использованием подсказок ChatML, хотя базовая модель утверждает, что следует подсказкам Alpaca. Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. — Полные веса: kunoichi-lemon-royale-v2-32K-7B — GGUF: kunoichi-lemon-royale-v2-32K-7B-GGUF Эта модель была объединена с использованием метода арифметического слияния задач с использованием grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B в качестве основы. В объединение были включены следующие модели: * grimjim/kunoichi-lemon-royale-7B Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: grimjim
Теги: mistral, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
