Этот репозиторий содержит избранные кванты GGUF слияния предварительно обученных языковых моделей, созданных с помощью mergekit. Хотя ни один из компонентов этого слияния не был подготовлен для ролевой игры и не предназначен для нее, модель можно эффективно использовать в этой роли. Протестировано при температуре 1 и minP 0,01. Эта модель предполагает творческий подход, поэтому по желанию регулируйте температуру в большую или меньшую сторону. В объединенной модели имеются первоначальные проблемы с согласованностью формата, но их можно устранить с помощью приглашения Instruct. Кроме того, для изменения результатов генерации текста использовалось управление подсказками, чтобы избежать некоторых распространенных ошибок, наблюдаемых при генерации текста с моделями Llama 3 8B. Полная инструкция, использованная во время тестирования, доступна ниже. Эта модель была объединена с использованием метода арифметического слияния задач с использованием в качестве основы grimjim/Llama-3-Instruct-8B-SPPO-Iter3-SimPO-merge. В объединение были включены следующие модели: * tokyotech-llm/Llama-3-Swallow-8B-Instruct-v0.1 Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: grimjim
Теги: gguf, endpoints_compatible, conversational
Лайков: 12 | Загрузок: 53
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
