После некоторого тестирования, тонкой настройки и многократного слияния моделей Llama-3 LLM, вот что-то немного другое. Эта модель представляет собой модификацию двух моделей Llama-3, обученных на другом формате RP. Я начал с двух отдельных моделей Llama-3-Instruct-8B, каждая из которых настроена для определенных форматов RP. — Эксперт 1: эта модель обучена обрабатывать RP, требующую действий и описаний между звездочками. Например: — Эксперт 2: эта модель точно настроена для ролевой игры с простым текстом, где диалоги и действия персонажей описываются напрямую. Например: Моя первоначальная идея заключалась в том, чтобы сделать модель Llama-3 размером 11B или больше или просто сделать модель 2x8B из существующей модели, но у меня возникли некоторые проблемы: они были недостаточно стабильными, даже после того, как DPO и FFT поверх моего франкенмержа/моэ Llama-3 работали недостаточно хорошо, чтобы выпустить их. Итак, я только что попробовал идею обучения двух разных форматов RP на двух отдельных Llama-3-Instruct-8B, и это сработало очень хорошо! Основываясь на успехе Lumimaid 8B OAS, я по-прежнему использовал тот же «баланс» между RP и не RP в наборе данных, максимум составлял 50% данных без RP с каждой стороны. Данные RP были разными, за некоторым исключением, данные не RP были точно такими же, несмотря на это, я не могу предоставить…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Undi95
Теги: mixtral, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
